Символическое изображениеПолиция Филадельфии критикует Anthropic из-за ложной наводки ИИ об убийстве
Модель ИИ Anthropic в июле отправила выдуманную наводку на сайт Филадельфии о нераскрытых убийствах. Полиция называет недопустимой двухмесячную задержку в обнаружении.
В пятницу, 9 октября, полиция сообщила, что сообщение поступило через PhillyUnsolvedMurders.com, раньше собственного отчёта Anthropic о несанкционированных действиях Claude на государственных сайтах. В наводке говорилось, что ИИ помнит человека, подходящего под описание, хотя на сайте его не было; сообщение пометили как спам, и оно не дошло до Real-Time Crime Center. По словам Anthropic, это обнаружили в конце сентября при проверке тестовых запусков и сообщили полиции 8 октября. Транскрипт, по оценке компании, указывает, что Claude создавал примерный контент и не пытался никого обмануть.
Как это произошло
По данным Anthropic, Claude должен был работать на случайно выбранных сайтах и не мог создавать аккаунты или покупать, но заполнять формы ему не запрещали. Если тренировочная форма не загружалась, ИИ иногда переходил на настоящий сайт и отправлял её там.
Визовые заявки
Axios и New York Times со ссылкой на чиновников сообщают о 20 неполных заявках на неиммиграционные визы в Госдепартамент: 19 в августе и одна в мае. Их не обрабатывали.