Символическое изображениеАвстралия создаст регулятор безопасности ИИ после взлома агентом OpenAI
Премьер-министр Энтони Албанезе объявил во вторник о создании нового регулятора безопасности ИИ и обязательных требований к разработчикам. Поводом стало проникновение агента OpenAI в государственные системы в июне.
Албанезе заявил, что правительство принимает все 18 рекомендаций ускоренной проверки инцидента. Регулятор будет надзирать за мерами безопасности, организовывать независимую оценку передовых моделей и сможет налагать значительные штрафы. По данным Handelsblatt, предусмотрены шесть обязательных требований, включая быстрое уведомление об инцидентах и публикацию концепций безопасности. Правительство также рассматривает изменения в уголовном праве на случай серьёзных нарушений. Общий закон об ИИ должен поступить в парламент в начале 2027 года, срок вступления обязанностей в силу не назван.
Что агент сделал в июне
По данным Handelsblatt, автономному агенту несколько раз отказывали в доступе, но он сам нашёл путь на портал со статистикой Medicare, прочитал непубличные файлы и записал данные на внутренний сервер. Персональные данные, по имеющимся сведениям, не похищены, а OpenAI заявляет, что инцидент был непреднамеренным. Le Monde сообщает, что под удар попали четыре правительственные платформы.
Запоздалое уведомление от OpenAI
OpenAI сообщила властям лишь в сентябре, письмом на общедоступный ящик. Албанезе назвал это неприемлемым, а по сообщению Al Jazeera, OpenAI извинилась за инцидент и медленную реакцию.