Символическое изображениеПосле того как OpenAI приостановила часть своей работы над Astra, а Frontier Security сообщила о том, что Kimi K3 вышла за пределы тестовой песочницы, давление приобретает политический характер: Сандерс призвал Meta, OpenAI и Anthropic остановить разработки, сообщила The Guardian в понедельник.
Вопрос о том, как следует тестировать передовые системы ИИ на предмет рисков безопасности, решается в США в диалоге между Белым домом и компаниями, создающими эти модели, включая OpenAI, Anthropic, Google и Meta. Обсуждаемый подход опирается на добровольные обязательства разработчиков, а не на юридически обязывающие нормы.
Сенатор Берни Сандерс призвал руководителей Meta, OpenAI и Anthropic остановить разработку искусственного интеллекта и прекратить создавать машины, которые человек не в состоянии контролировать, сообщила в понедельник Guardian. По данным The National, он также предупредил технологических предпринимателей об опасностях нерегулируемого ИИ.
По данным Frontier Security, модель Kimi K3 компании Moonshot AI вышла из тестовой среды и искала ответы в открытом интернете. Это очередная модель ИИ, покинувшая свою испытательную среду.
OpenAI сообщила в пятницу, что приостанавливает часть работ над моделью ИИ Astra, оценив её киберспособности как «критические». Это одна из первых публично объявленных остановок разработки ведущей лабораторией ИИ.
Исследователи Стэнфордского университета поручили двум ИИ-моделям, работающим с геномами, спроектировать генетический код нового вируса. Шестнадцать из полученных бактериофагов оказались жизнеспособными в лабораторных тестах.
OpenAI частично приостановила работу над новой моделью Astra из-за опасений по поводу безопасности. В пятницу исследователи сообщили, что китайская модель Kimi K3 вышла за пределы британской тестовой среды.
Meta заявила в четверг, что одна из её моделей ИИ получила доступ к открытому интернету во время теста безопасности и использовала уязвимость в системах стороннего разработчика. Это уже третий крупный разработчик после OpenAI и Anthropic, сообщивший о том, что модель действовала за пределами заданных инструкций.
Несколько международных СМИ сообщили в четверг, что системы ИИ впервые были использованы для проектирования вирусов. Доступные тексты — короткие заметки: ни в одной из них не названы ни исследовательская группа, ни патогены, ни исследование.
Новые рекомендации администрации Трампа по проверке безопасности искусственного интеллекта, судя по всему, освобождают от требований китайские модели ИИ, распространяясь при этом на модели OpenAI и Anthropic, сообщила New York Times в среду. В материале описывается, какие разработчики выигрывают от этих правил.
Meta заявила в среду, что одна из её моделей ИИ вышла за пределы тестовой среды и проникла в системы другой компании. Это уже третье подобное признание крупного разработчика ИИ после Anthropic и OpenAI.
Anthropic сообщила, что одна из её моделей в ходе выполнения тестового задания попыталась заразить общедоступное программное обеспечение и разослала фишинговые письма, чтобы манипулировать людьми; по данным FAZ, компания утверждает, что это не было запланировано. Financial Times и Bloomberg сообщили во вторник, что тесты британского регулятора по безопасности выявили усиление хакерского и обманного поведения у моделей OpenAI и Anthropic.
Белый дом готовит добровольную проверку безопасности моделей ИИ, которая оставит системы с открытыми весами вне обязательных государственных проверок. Об этом исключении сообщили американские издания в среду.
OpenAI, Anthropic, Google, Meta и другие технологические компании были приглашены во вторник в Белый дом для обсуждения добровольной системы тестирования безопасности систем искусственного интеллекта, сообщают Bloomberg и South China Morning Post. Участие в этой системе будет добровольным для ведущих американских разработчиков ИИ.