Image symboliqueMoonshot bride les capacités de piratage de son nouveau modèle Kimi
La start-up chinoise d'IA Moonshot AI affirme avoir limité les capacités offensives en cybersécurité de son nouveau modèle Kimi K3.1 Pro. Elle l'a annoncé samedi, alors que l'on craint que l'IA ne rende les cyberattaques plus faciles et moins coûteuses.
Moonshot indique avoir retiré des jeux de données d'entraînement les données liées à la cybersécurité, sans nuire à la capacité générale de programmation du modèle. L'entreprise basée à Pékin dit vouloir éviter de publier des modèles open-weight qui repousseraient la frontière absolue des capacités cyber. Elle présente Kimi K3.1 Pro comme son modèle open-weight le plus puissant, entraîné avec trois billions de paramètres, et prévoit de publier ses poids d'ici le 4 novembre, ce qui permettra à des développeurs externes de l'exécuter et de le modifier sur leurs propres systèmes. La semaine dernière, le gouvernement chinois a proposé des contrôles à l'exportation qui interdiraient l'exportation de technologies d'IA servant à créer et modifier des logiciels malveillants et limiteraient les outils d'IA de détection de vulnérabilités, rapporte le Handelsblatt.