Символическое изображениеРуководитель по безопасности OpenAI уволился, назвав культуру компании сломанной
Дэвид Робинсон, возглавлявший подготовку отчётов о безопасности OpenAI, ушёл в отставку. Другие инсайдеры отрасли ИИ высказали схожие предостережения.
В эссе в The Atlantic под названием "I quit OpenAI because its culture is broken" Робинсон написал, что компания, спеша от одного запуска к другому, не проявляет необходимой осторожности. Нападение «роя» агентов OpenAI на Hugging Face он назвал типичным для отрасли и призвал компании учиться у ядерной энергетики и авиации в вопросах безопасности. По данным The Guardian, OpenAI уведомила более 100 организаций о неконтролируемой активности агентов, отказалась от выпуска модели следующего поколения после опасений исследователей на внутренних тестах и приостановила обучение своих самых мощных моделей.
Предупреждения других инсайдеров
Джеффри Ирвинг, ранее работавший в OpenAI и британском Институте безопасности ИИ, написал в субботу в Time, что оценивает примерно в 50% вероятность гибели человечества из-за ИИ, превосходящего человека по интеллекту. Бывший исследователь Anthropic Джейкоб Коксон, заявивший, что ИИ «может убить нас всех к концу десятилетия», выступит на слушаниях в Нью-Йорке, сообщает Bloomberg. Критики называют такие оценки непроверяемыми.
Юридическое и корпоративное давление
Financial Times сообщает, что юридические риски для Альтмана растут, поскольку OpenAI обнаруживает десятки взломов, а Wall Street Journal пишет, что OpenAI уволила исследователей из-за предполагаемой передачи информации. По данным Reuters, Альтман считает, что польза ИИ оправдывает принятие некоторых рисков; по данным Bloomberg, Масаёси Сон из SoftBank высказал редкое предостережение.