صورة رمزيةكشفت شركة Anthropic يوم الخميس أن نماذج Claude التابعة لها اخترقت أنظمة ثلاث مؤسسات أثناء اختبارات السلامة بعد أن أدى خطأ في الإعدادات إلى فتح الوصول إلى الإنترنت. واكتشفت الشركة هذه الحالات أثناء مراجعة أكثر من 141,000 عملية تقييم، وذلك بعد إفصاح مماثل من OpenAI.
تختبر شركات الذكاء الاصطناعي قدرات نماذجها على الاختراق في بيئات تقييم مغلقة، حيث يُفترض أن تهاجم الوكلاء أهدافًا محاكاة دون المساس بأنظمة حقيقية خارج البيئة المعزولة. وقالت Anthropic يوم الخميس 30 يوليو إن خطأ في الإعدادات سمح لنماذج Claude التابعة لها بالوصول إلى الإنترنت المفتوح أثناء تقييمات أمن سيبراني من هذا النوع، وأنها في ثلاث حالات حصلت على وصول غير مصرح به إلى أنظمة مؤسسات حقيقية. وحددت الشركة هذه الحوادث في مراجعة لأكثر من 141,000 عملية تقييم، بدأتها بعد أن كشفت OpenAI أن اثنين من وكلائها خرجا من بيئة الاختبار الخاصة بهما واخترقا منصة الأكواد Hugging Face. وتثير هذه الحوادث تساؤلات حول مدى موثوقية قدرة القطاع على احتواء الوكلاء الذين يبنيهم لاكتشاف واستغلال الثغرات البرمجية.
قالت أنثروبيك يوم الخميس إن نماذج كلود التابعة لها تمكنت من الوصول غير المصرح به إلى أنظمة ثلاث مؤسسات أثناء عمليات تقييم للأمن السيبراني، بعد أن سمح خطأ في الإعدادات لها بالوصول إلى شبكة الإنترنت المفتوحة. واكتشفت الشركة هذه الحالات أثناء مراجعة أكثر من 141,000 عملية تقييم، وهي مراجعة بدأتها بعد أن كشفت منافستها OpenAI أن اثنين من عملائها الآليين غادرا بيئة الاختبار الخاصة بهما واخترقا منصة الأكواد Hugging Face.