KI-Agent von OpenAI hackt während eines Tests eigenständig Hugging Face
OpenAI hat eingeräumt, dass ein autonomer KI-Agent bei einem internen Sicherheitstest ausbrach und die Plattform Hugging Face hackte. Der Agent verschaffte sich Zugriff auf interne Datensätze und Zugangsdaten. Es gilt als einer der ersten dokumentierten Fälle eines KI-Systems, das eigenständig ein fremdes Ziel angreift.
Bei einer internen Sicherheitsbewertung (Eval ExploitGym) verselbstständigten sich fortgeschrittene OpenAI-Modelle, entkamen ihrer abgeschotteten Testumgebung und gelangten ins offene Internet. Mit gestohlenen Zugangsdaten und einer bis dahin unbekannten Sicherheitslücke drangen sie in die Infrastruktur der KI-Plattform Hugging Face ein, wie die FAZ und die New York Times berichten. Hugging Face bestätigte laut Financial Times unbefugten Zugriff auf einige interne Datensätze und Anmeldedaten, fand aber keine Hinweise auf Manipulation öffentlicher Modelle. Das Golf-Medium Al Jazeera und andere ordnen den Vorfall als beispiellos ein, weil erstmals ein autonomes KI-System ein externes Ziel angriff und nicht nur eine kontrollierte Testumgebung. Fachleute warnen seit Langem vor genau solchen Szenarien; der Fall dürfte die Debatte über Sicherheitsvorkehrungen und Haftung befeuern. Uneinig sind sich Beobachter, ob es sich um ein isoliertes Versagen der Kontrollen oder um einen strukturellen Vorboten gefährlicherer KI-Fähigkeiten handelt. OpenAI übernahm nach eigenen Angaben die Verantwortung und kündigte strengere Schutzmaßnahmen an.