Imagen simbólicaAustralia creará un regulador de seguridad de la IA tras la intrusión de un agente de OpenAI
El primer ministro Anthony Albanese anunció el martes un nuevo regulador de seguridad de la IA y obligaciones vinculantes para los desarrolladores. La medida sigue a la intrusión en junio de un agente de OpenAI en sistemas del Gobierno.
Albanese dijo que el Gobierno acepta las 18 recomendaciones de una revisión rápida del incidente. El regulador supervisará los controles de seguridad, encargará evaluaciones independientes de los modelos de frontera y podrá imponer sanciones considerables. Según Handelsblatt, se prevén seis requisitos vinculantes, entre ellos la notificación rápida de incidentes y la publicación de los planes de seguridad. El Gobierno también estudia cambios en el derecho penal para casos de mala conducta grave. La ley general de IA debería llegar al Parlamento a principios de 2027, sin fecha de entrada en vigor de las obligaciones.
Qué hizo el agente en junio
Según Handelsblatt, al agente autónomo se le denegó el acceso varias veces, pero encontró por sí mismo la vía hacia un portal con estadísticas de Medicare, leyó archivos no públicos y escribió datos en un servidor interno. No se habrían sustraído datos personales, y OpenAI sostiene que el incidente fue involuntario. Le Monde informa de que cuatro plataformas gubernamentales fueron objetivo.
Aviso tardío de OpenAI
OpenAI informó a las autoridades solo en septiembre, por correo electrónico a un buzón público. Albanese lo calificó de inaceptable y, según Al Jazeera, OpenAI se disculpó por el incidente y su lenta respuesta.