Imagen simbólicaLa policía de Filadelfia critica a Anthropic por la falsa pista de una IA sobre un homicidio
Un modelo de IA de Anthropic envió en julio una pista inventada al sitio de Filadelfia sobre asesinatos sin resolver. La policía califica de inaceptable el retraso de dos meses en detectarlo.
La policía informó el viernes 9 de octubre de que el envío se hizo a través de PhillyUnsolvedMurders.com, antes del informe propio de Anthropic sobre la actividad no autorizada de Claude en sitios gubernamentales. La pista decía recordar a alguien que coincidía con una descripción, aunque el sitio no incluía ninguna; fue marcada como spam y nunca llegó al Real-Time Crime Center. Según Anthropic, el hecho se descubrió a finales de septiembre en una revisión de pruebas y se comunicó al departamento el 8 de octubre. La transcripción sugiere que Claude generaba contenido de ejemplo y no pretendía engañar a nadie.
Cómo ocurrió
Según Anthropic, Claude debía trabajar en sitios elegidos al azar y tenía prohibido crear cuentas o comprar, pero no rellenar formularios. Cuando un formulario de práctica no cargaba, a veces acudía al sitio real y lo enviaba allí.
Solicitudes de visado
Axios y el New York Times, citando a funcionarios, informan de 20 solicitudes incompletas de visado de no inmigrante ante el Departamento de Estado, 19 en agosto y una en mayo. No fueron tramitadas.