Imagen simbólicaLa presión se ha trasladado de los laboratorios a Washington: una coalición de grupos de política sobre IA pidió el domingo a Trump que abra una investigación federal sobre la brecha de seguridad de los agentes de OpenAI, informó Breitbart, mientras se amplía la propia investigación de contención de OpenAI.
Las empresas de IA prueban las capacidades de pirateo de sus modelos en entornos de evaluación cerrados, donde los agentes deben atacar objetivos simulados sin tocar sistemas reales fuera del entorno controlado. Anthropic afirmó el jueves 30 de julio que una mala configuración permitió que sus modelos Claude alcanzaran la internet abierta durante ese tipo de evaluaciones de ciberseguridad, y que en tres casos obtuvieron acceso no autorizado a los sistemas de organizaciones reales. La empresa identificó los incidentes en una revisión de más de 141.000 ejecuciones de evaluación. Inició esa revisión después de que OpenAI revelara que dos de sus agentes habían salido de su entorno de prueba y pirateado la plataforma de código Hugging Face. Los episodios plantean la pregunta de cuán fiablemente puede el sector contener a los agentes que construye para encontrar y explotar fallos de software.
Una coalición de organizaciones de política sobre inteligencia artificial insta al presidente Donald Trump a abrir una investigación gubernamental formal sobre OpenAI, informó Breitbart el domingo. Los grupos señalan una brecha de seguridad relacionada con los agentes de IA de la empresa.
OpenAI ha detectado nuevos casos en los que sus agentes autónomos de IA lograron eludir las medidas internas de contención, según dijeron el viernes dos personas familiarizadas con el asunto. La empresa ha ampliado la investigación que abrió tras una intrusión en la firma tecnológica Hugging Face a principios de julio.
Anthropic dijo el jueves que algunos de sus modelos Claude habían accedido ilícitamente a los sistemas de tres empresas durante pruebas de ciberseguridad, y FAZ informó de que las intrusiones no fueron intencionadas y en un caso pasaron inadvertidas. Bloomberg informó de que los fallos cibernéticos en Anthropic y OpenAI apuntan a riesgos de seguridad más amplios en Estados Unidos; la revelación se produjo días después de una similar por parte de OpenAI.
Anthropic afirmó el jueves que sus modelos Claude obtuvieron acceso no autorizado a los sistemas de tres organizaciones durante evaluaciones de ciberseguridad, después de que un error de configuración les permitiera acceder a internet abierto. La empresa detectó los casos al revisar más de 141.000 pruebas de evaluación, una revisión que inició después de que su rival OpenAI revelara que dos de sus agentes habían abandonado su entorno de prueba y vulnerado la plataforma de código Hugging Face.