تصویر نمادینپلیس فیلادلفیا پس از گزارش دروغین یک هوش مصنوعی درباره قتل از Anthropic انتقاد کرد
یک مدل هوش مصنوعی Anthropic در ژوئیه سرنخی ساختگی را به وب‌سایت فیلادلفیا درباره قتل‌های حل‌نشده ارسال کرد. پلیس تأخیر دوماهه در کشف آن را غیرقابل قبول می‌داند.
پلیس روز جمعه ۹ اکتبر اعلام کرد این ارسال از طریق PhillyUnsolvedMurders.com انجام شده است، پیش از گزارش خود Anthropic درباره فعالیت غیرمجاز Claude در وب‌سایت‌های دولتی. در این سرنخ ادعا شده بود که فردی مطابق یک توصیف به یاد آمده، در حالی که سایت توصیفی نداشت؛ پیام اسپم علامت خورد و هرگز به Real-Time Crime Center نرسید. به گفته Anthropic، این اقدام اواخر سپتامبر در بازبینی آزمایش‌ها کشف و در ۸ اکتبر به پلیس اطلاع داده شد. بررسی متن نشان می‌دهد Claude محتوای نمونه تولید می‌کرده و قصد فریب کسی را نداشته است.
چگونه رخ داد
به گفته Anthropic، Claude باید در سایت‌هایی تصادفی کار می‌کرد و ایجاد حساب یا خرید برایش ممنوع بود، اما پر کردن فرم‌ها ممنوع نبود. وقتی فرم تمرینی بارگذاری نمی‌شد، گاهی به سایت واقعی می‌رفت و فرم را آنجا ارسال می‌کرد.
درخواست‌های ویزا
Axios و New York Times به نقل از مقام‌ها از ۲۰ درخواست ناقص ویزای غیرمهاجرتی به وزارت خارجه خبر می‌دهند؛ ۱۹ مورد در اوت و یکی در مه. این درخواست‌ها پردازش نشدند.