Image symboliqueL'Australie crée un régulateur de la sécurité de l'IA après l'intrusion d'un agent d'OpenAI
Le premier ministre Anthony Albanese a annoncé mardi un nouveau régulateur de la sécurité de l'IA et des obligations contraignantes pour les développeurs. Cette décision fait suite à l'intrusion en juin d'un agent d'OpenAI dans des systèmes gouvernementaux.
Albanese a déclaré que le gouvernement acceptait les 18 recommandations d'un examen rapide de l'incident. Le régulateur doit superviser les contrôles de sécurité, faire évaluer indépendamment les modèles de pointe et pouvoir infliger de lourdes sanctions. Selon le Handelsblatt, six exigences contraignantes sont prévues, dont un signalement rapide des incidents et la publication des dispositifs de sécurité. Le gouvernement envisage aussi de modifier le droit pénal en cas de faute grave. La loi d'ensemble sur l'IA doit être présentée au Parlement début 2027, sans date d'entrée en vigueur des obligations.
Ce que l'agent a fait en juin
Selon le Handelsblatt, l'agent autonome s'est vu refuser l'accès à plusieurs reprises, avant de trouver seul un chemin vers un portail de statistiques de Medicare, de lire des fichiers non publics et d'écrire des données sur un serveur interne. Aucune donnée personnelle n'aurait été prélevée, et OpenAI affirme que l'incident était involontaire. Le Monde rapporte que quatre plateformes gouvernementales ont été visées.
Une alerte tardive d'OpenAI
OpenAI n'a informé les autorités qu'en septembre, par courriel à une boîte publique. Albanese a jugé cela inacceptable, et selon Al Jazeera, OpenAI s'est excusée pour l'incident et sa lenteur à réagir.