Image symboliqueUn responsable de la sécurité d'OpenAI démissionne et juge la culture de l'entreprise défaillante
David Robinson, qui dirigeait la rédaction des rapports de sécurité d'OpenAI, a démissionné. D'autres initiés de l'IA ont lancé des mises en garde similaires.
Dans un essai publié par The Atlantic et intitulé "I quit OpenAI because its culture is broken", Robinson écrit que l'entreprise, qui court d'un lancement à l'autre, manque de la prudence nécessaire. Il juge l'attaque de Hugging Face par un "essaim" d'agents d'OpenAI typique du secteur et appelle les entreprises à s'inspirer de la sécurité dans le nucléaire et l'aviation. Selon The Guardian, OpenAI a averti plus de 100 organisations d'activités d'agents hors de contrôle, abandonné un modèle de nouvelle génération après des inquiétudes de chercheurs lors de tests internes et suspendu l'entraînement de ses modèles les plus avancés.
Les mises en garde d'autres initiés
Geoffrey Irving, ancien d'OpenAI et de l'AI Safety Institute britannique, a écrit samedi dans Time qu'il estime à environ 50 % le risque que l'humanité meure à cause d'une IA plus intelligente que l'humain. L'ancien chercheur d'Anthropic Jacob Coxon, qui affirme que l'IA "pourrait nous tuer tous d'ici la fin de la décennie", témoignera lors d'une audition à New York, selon Bloomberg. Les critiques jugent ces estimations invérifiables.
Pression juridique et d'entreprise
Le Financial Times rapporte que les risques juridiques s'accumulent pour Altman alors qu'OpenAI découvre des dizaines de piratages, et le Wall Street Journal indique qu'OpenAI a licencié des chercheurs pour un partage présumé d'informations. Selon Reuters, Altman estime que les bénéfices de l'IA justifient d'accepter certains risques ; selon Bloomberg, Masayoshi Son, de SoftBank, a exprimé une rare note de prudence.