Символическое изображениеMoonshot ограничила хакерские возможности новой модели Kimi
Китайский ИИ-стартап Moonshot AI заявил, что ограничил наступательные киберспособности своей новой модели Kimi K3.1 Pro. Об этом он объявил в субботу на фоне опасений, что ИИ сделает кибератаки проще и дешевле.
Moonshot сообщила, что удалила из обучающих наборов данные, связанные с кибербезопасностью, не ухудшив общих способностей модели к программированию. Компания из Пекина заявила, что стремится не выпускать модели с открытыми весами, которые расширяют абсолютную границу киберспособностей. Kimi K3.1 Pro она называет своей самой мощной моделью с открытыми весами, обученной на трёх триллионах параметров, и планирует опубликовать веса до 4 ноября, что позволит сторонним разработчикам запускать и изменять модель на собственных системах. На прошлой неделе правительство Китая предложило экспортный контроль, который запретил бы вывоз ИИ-технологий для создания и изменения вредоносного ПО и ограничил бы ИИ-инструменты поиска уязвимостей, сообщает Handelsblatt.