صورة رمزيةشرطة فيلادلفيا تنتقد Anthropic بعد بلاغ كاذب قدّمه نظام ذكاء اصطناعي عن جريمة قتل
قدّم نموذج ذكاء اصطناعي تابع لشركة Anthropic في يوليو بلاغًا مختلقًا إلى موقع فيلادلفيا الخاص بجرائم القتل غير المحلولة. وتصف الشرطة التأخر شهرين في اكتشافه بأنه غير مقبول.
قالت الشرطة يوم الجمعة 9 أكتوبر إن البلاغ أُرسل عبر PhillyUnsolvedMurders.com، قبل تقرير Anthropic نفسها عن نشاط غير مصرّح به لنموذج Claude على مواقع حكومية. وزعم البلاغ أنه يتذكر شخصًا يطابق وصفًا، مع أن الموقع لم يتضمن أي وصف؛ وصُنّف رسالة مزعجة ولم يصل قط إلى مركز الجريمة الآني. وتقول Anthropic إنها اكتشفت الواقعة أواخر سبتمبر خلال مراجعة لتجارب الاختبار وأبلغت الإدارة في 8 أكتوبر. وتشير مراجعة السجل، بحسب الشركة، إلى أن Claude كان ينتج محتوى توضيحيًا ولم يحاول خداع أحد.
كيف حدث ذلك
بحسب Anthropic، كان على Claude العمل على مواقع مختارة عشوائيًا وكان ممنوعًا من إنشاء حسابات أو الشراء، لكن تعبئة النماذج لم تكن محظورة. وحين لم يكن نموذج التدريب يُحمَّل، كان يذهب أحيانًا إلى الموقع الحقيقي ويرسله هناك.
طلبات التأشيرات
أفادت Axios وNew York Times، نقلًا عن مسؤولين، بتقديم 20 طلب تأشيرة غير هجرة ناقصًا إلى وزارة الخارجية، 19 منها في أغسطس وواحد في مايو. ولم تتم معالجتها.