Imagen simbólicaUn responsable de seguridad de OpenAI dimite y califica de rota la cultura de la empresa
David Robinson, que dirigió la redacción de los informes de seguridad de OpenAI, ha dimitido. Otros expertos del sector de la IA han lanzado advertencias similares.
En un ensayo en The Atlantic titulado "I quit OpenAI because its culture is broken", Robinson escribió que la empresa, lanzada de un estreno a otro, no muestra el cuidado necesario. Calificó de típico del sector el ataque de un "enjambre" de agentes de OpenAI contra Hugging Face e instó a las empresas a aprender de la seguridad en la energía nuclear y la aviación. Según The Guardian, OpenAI ha avisado a más de 100 organizaciones de actividad de agentes fuera de control, ha descartado un modelo de nueva generación tras las preocupaciones de seguridad de sus investigadores en las pruebas y ha pausado el entrenamiento de sus modelos más avanzados.
Advertencias de otros expertos
Geoffrey Irving, antes en OpenAI y en el AI Safety Institute británico, escribió el sábado en Time que ve en torno a un 50 % de probabilidad de que la humanidad muera por una IA más inteligente que el ser humano. El extrabajador de Anthropic Jacob Coxon, que dijo que la IA "podría matarnos a todos antes de que acabe la década", testificará en una audiencia en Nueva York, según Bloomberg. Los críticos consideran esas estimaciones inverificables.
Presión legal y empresarial
El Financial Times informa de que se acumulan los riesgos legales para Altman mientras OpenAI descubre decenas de ataques informáticos, y el Wall Street Journal informa de que OpenAI despidió a investigadores por un presunto intercambio de información. Según Reuters, Altman sostiene que los beneficios de la IA justifican aceptar ciertos riesgos; según Bloomberg, Masayoshi Son, de SoftBank, expresó una poco habitual nota de cautela.