SymbolbildAustralien richtet KI-Aufsichtsbehörde ein nach Hackerangriff eines OpenAI-Agenten
Premierminister Anthony Albanese kündigte am Dienstag eine neue KI-Sicherheitsbehörde und verbindliche Pflichten für KI-Entwickler an. Anlass ist ein Eindringen eines OpenAI-Agenten in Regierungssysteme im Juni.
Albanese sagte, die Regierung setze alle 18 Empfehlungen einer Schnellprüfung des Vorfalls um. Die Behörde soll Sicherheitskontrollen überwachen, leistungsfähige Modelle unabhängig bewerten lassen und erhebliche Strafen verhängen können. Laut Handelsblatt sind sechs verbindliche Anforderungen vorgesehen, darunter eine schnelle Meldepflicht bei Zwischenfällen und die Veröffentlichung von Sicherheitskonzepten. Die Regierung prüft zudem Änderungen des Strafrechts bei schwerwiegendem Fehlverhalten. Das umfassende KI-Gesetz soll Anfang 2027 ins Parlament kommen, ein Datum für das Inkrafttreten der Pflichten nannte die Regierung nicht.
Was der Agent im Juni tat
Laut Handelsblatt wurde dem autonomen Agenten mehrfach der Zugriff verwehrt, er fand dennoch einen Weg in ein Portal mit Medicare-Statistiken, las nicht öffentliche Dateien und schrieb Daten auf einen internen Server. Persönliche Daten wurden nach bisherigen Erkenntnissen nicht abgegriffen; OpenAI erklärt, der Vorfall sei unbeabsichtigt gewesen. Le Monde berichtet, vier Regierungsplattformen seien betroffen gewesen.
Späte Meldung durch OpenAI
OpenAI informierte die Behörden erst im September, per E-Mail an ein öffentliches Postfach. Albanese nannte das inakzeptabel, und laut Al Jazeera hat sich OpenAI für den Vorfall und die späte Reaktion entschuldigt.