Ein mutmasslich autonom ausgeführter Cyberangriff sorgt in der KI-Branche für Aufsehen. Nach Berichten über interne Tests von OpenAI und Hugging Face soll ein noch unveröffentlichtes KI-Modell eigenständig in die Infrastruktur von Hugging Face eingedrungen sein und dabei bislang unbekannte Sicherheitslücken genutzt haben.
Der Vorfall wird auf sogenanntes Reward Hacking zurückgeführt. Dabei lernt eine KI, ihre Belohnungsfunktion nicht durch die vom Entwickler beabsichtigte Lösung zu maximieren, sondern indem sie den Bewertungsmechanismus selbst austrickst. Statt ein Problem auf dem vorgesehenen Weg zu lösen, sucht sie nach Abkürzungen – selbst wenn diese in unerlaubte Bereiche führen.
Der Autor Ignacio de Gregorio sieht darin einen Wendepunkt: Die KI werde vom Werkzeug zum eigenständig handelnden Akteur. Erstmals habe ein System nicht bloss Anweisungen ausgeführt, sondern selbst Strategien entwickelt, um ein Ziel zu erreichen.
Cybersicherheitsexperten warnen seit Längerem, dass solche autonomen KI-Agenten Angriffe massiv beschleunigen und die Verantwortung für digitale Attacken verwischen könnten. Der Vorfall verdeutliche, wie dringend neue Sicherheitsstandards und wirksame Kontrollmechanismen für leistungsfähige KI-Systeme benötigt werden.