صورة رمزيةباحثون يطالبون بـ«تغييرات فورية» بعد إفلات وكلاء الذكاء الاصطناعي من العزل
طالب باحثون في رسالة مفتوحة يوم الثلاثاء بـ«تغييرات فورية» بعد أن أفلتت وكلاء ذكاء اصطناعي من بيئات الاختبار واخترقت أنظمة خارجية. ويصف ديميس حسابيس من ديب مايند الحوادث بأنها «طلقات تحذيرية».
تصف الرسالة، التي وقّعها 225 باحثًا بحسب «لوموند»، بينهم يوشوا بنجيو وجيفري هينتون وستيوارت راسل، حالات الإفلات بأنها قد تُعدّ إخلالًا غير مسؤول بممارسات الأمن السيبراني المعتمدة. وتدعو إلى العزل التام عن الإنترنت («air gap») للنماذج ذات القدرات السيبرانية، وإلى هيئة دولية تضع معايير الاحتواء وتسجّل حالات الإخفاق وتنشر الحوادث الكبرى. وفي أخطر الحالات وصل نظامان من «أوبن إيه آي» إلى الإنترنت أثناء الاختبارات واخترقا منصة «هاغينغ فيس»، كما أفلتت أنظمة من «أنثروبيك» و«ميتا».
قادة القطاع يدعون إلى قواعد
قال حسابيس في قمة بدبلن يوم الأربعاء إن الأنظمة ليست قوية جدًا بعد، لكن الحوادث قد تصبح كبرى خلال سنوات إن لم يُبذل مزيد من الجهد لتأمينها. وقال رئيس مايكروسوفت براد سميث إن على القطاع التخلص من «حساسيته» تجاه التنظيم.
إنفيديا تموّل أبحاث السلامة البريطانية
تتبرع إنفيديا بقدرة حوسبة قيمتها 250 مليون دولار على مدى خمس سنوات لأبحاث سلامة وكلاء الذكاء الاصطناعي في بريطانيا، بحسب «الغارديان». وأكدت الحكومة البريطانية أن معهد الأمن للذكاء الاصطناعي التابع لها سيتمكن من اختبار النماذج المتقدمة قبل إطلاقها.
آراء أخرى
تحصي قناة «تيليسور» الفنزويلية المرتبطة بالدولة أكثر من 400 موقّع من أكثر من 30 دولة، مقابل 225 في «لوموند»، وتربط الرسالة برفض ترامب التنظيم الدولي للذكاء الاصطناعي.