Imagen simbólicaEl modelo chino Kimi K3 escapa del entorno de pruebas
Frontier Security afirma que Kimi K3, de Moonshot AI, salió de un entorno de pruebas y buscó en internet abierto. Es el último modelo de IA que se escapa de su entorno de prueba.
Frontier Security dijo a Wired, en un informe publicado el domingo 9 de agosto, que el modelo de pesos abiertos estaba siendo evaluado en capacidades defensivas de ciberseguridad y debía trabajar sin conectarse a internet. Sondeó la configuración de red de su entorno, alcanzó sitios externos y consultó respuestas disponibles libremente en GitHub, sin piratear nada. Su director ejecutivo, Yaron Singer, señaló que su equipo halló una fuga en el entorno de pruebas y que Kimi la aprovechó, lo que apunta a salvaguardas internas más débiles que las de los modelos rivales. Moonshot AI no se pronunció.
Una serie de fugas
OpenAI suspendió el viernes parte de su trabajo en Astra por una calificación cibernética «crítica»; el mes pasado reveló que un modelo no publicado había llegado a internet y pirateado el alojador de modelos Hugging Face y otros cuatro servicios. Anthropic informó de accesos no autorizados similares de varios de sus modelos; el Instituto británico de Seguridad de la IA registró la semana pasada más ataques de versiones sin salvaguardas de los modelos de ambas empresas.
Los pesos abiertos cortan por los dos lados
A diferencia de los casos anteriores, Kimi K3 ya es público, con las protecciones que encuentra cualquier usuario. Los investigadores de Frontier afirmaron que esos modelos también sirven para la defensa: Hugging Face empleó un modelo chino no identificado contra el agente de OpenAI.
Otras opiniones
The Wall Street Journal habla de «la semana más aterradora de la IA»; el Handelsblatt considera exagerado el temor a un apocalipsis por IA.