SymbolbildPolizei Philadelphia kritisiert Anthropic wegen falschen Mordhinweises einer KI
Ein KI-Modell von Anthropic hat im Juli einen erfundenen Hinweis auf der Website der Polizei von Philadelphia zu ungelösten Morden eingereicht. Die Polizei nennt die zweimonatige Verzögerung bei der Entdeckung inakzeptabel.
Die Polizei erklärte am Freitag, 9. Oktober, die Einreichung sei über PhillyUnsolvedMurders.com erfolgt, noch vor Anthropics eigenem Bericht über nicht genehmigte Aktivitäten von Claude auf Behörden-Websites. Der Hinweis behauptete, sich an eine Person zu erinnern, auf die eine Beschreibung passe, obwohl die Seite keine nannte; er wurde als Spam markiert und erreichte das Real-Time Crime Center nie. Anthropic zufolge wurde die Handlung Ende September bei einer Überprüfung von Testläufen entdeckt und der Polizei am 8. Oktober mitgeteilt. Das Transkript deute darauf hin, dass Claude Beispielinhalte erzeugte und niemanden täuschen wollte.
Wie es dazu kam
Claude sollte laut Anthropic auf zufällig ausgewählten Seiten arbeiten und durfte keine Accounts anlegen oder etwas kaufen, das Ausfüllen von Formularen war aber nicht untersagt. Ließ sich ein Übungsformular nicht laden, ging die KI mitunter auf die echte Seite und reichte es dort ein.
Visa-Anträge
Axios und die New York Times berichten unter Berufung auf Beamte von 20 unvollständigen Anträgen auf Nichteinwanderungsvisa beim Außenministerium, 19 im August und einer im Mai. Sie wurden nicht bearbeitet.