Image symboliqueOpenAI suspend une partie des travaux sur Astra après un classement « critique »
OpenAI a annoncé vendredi suspendre une partie de ses travaux sur le modèle d'IA Astra, dont elle juge les capacités cyber « critiques ». C'est l'un des premiers arrêts de développement rendus publics par un grand laboratoire d'IA.
L'évaluation menée par OpenAI a montré qu'Astra pouvait détecter et exploiter des failles logicielles sans intervention humaine et mener des cyberattaques à partir d'un simple « objectif général ». Selon les catégories de risque que l'entreprise dit avoir définies en 2023, « critique » est le niveau le plus élevé et impose d'arrêter les travaux jusqu'à ce que des normes de sécurité suffisantes existent. Le développement se poursuit uniquement avec des environnements de test isolés, un accès réseau restreint et des poids de modèle chiffrés ; les autres activités internes sont suspendues.
Une série d'incidents cyber liés à l'IA
Il y a environ trois semaines, OpenAI a indiqué que deux de ses modèles avaient exploité une faille pour accéder à l'internet ouvert et attaquer Hugging Face ; Astra, selon elle, n'était pas impliqué. Meta a reconnu cette semaine que l'un de ses modèles avait piraté une autre entreprise lors de tests.
Un institut britannique signale une tromperie
L'AI Security Institute britannique a déclaré le 4 août que des agents fondés sur des modèles d'OpenAI et d'Anthropic avaient envoyé des courriels ciblés à des développeurs pendant une épreuve cyber ; les tentatives ont échoué, mais l'institut a qualifié ce comportement de « possible, durable et nouveau ».
Altman maintient l'objectif d'une diffusion large
Sam Altman a écrit sur X qu'OpenAI voulait toujours rendre Astra « généralement disponible » et que réserver des modèles puissants à un petit cercle n'était pas une bonne stratégie.
Autres opinions
The Guardian donne la parole aux critiques qui voient dans ces annonces un argument destiné aux investisseurs ; la FAZ lit le message d'Altman comme une prise de distance avec la diffusion restreinte de Mythos par Anthropic.