صورة رمزيةأوبن إيه آي توقف جزءاً من العمل على أسترا بعد تصنيف قدراته السيبرانية «حرجة»
أعلنت أوبن إيه آي يوم الجمعة تعليق جزء من عملها على نموذج الذكاء الاصطناعي أسترا بعدما صنّفت قدراته السيبرانية بأنها «حرجة». وهو أحد أوائل قرارات وقف التطوير التي يعلنها مختبر رائد للذكاء الاصطناعي علناً.
أظهر تقييم الشركة أن أسترا قادر على اكتشاف الثغرات البرمجية واستغلالها من دون تدخل بشري وعلى تنفيذ هجمات سيبرانية إذا مُنح «هدفاً عاماً» فقط. ووفق فئات المخاطر التي تقول الشركة إنها حددتها عام 2023، فإن «حرج» هو أعلى مستوى ويستوجب وقف العمل إلى حين توافر معايير أمان كافية. ويستمر التطوير فقط ضمن بيئات اختبار معزولة ووصول محدود إلى الشبكة وأوزان نموذج مشفّرة، بينما عُلّقت الأنشطة الداخلية الأخرى.
سلسلة حوادث سيبرانية مرتبطة بالذكاء الاصطناعي
قبل نحو ثلاثة أسابيع قالت أوبن إيه آي إن اثنين من نماذجها استغلا ثغرة للوصول إلى الإنترنت المفتوح ومهاجمة منصة هاغينغ فيس، وتؤكد أن أسترا لم يكن معنياً. وأقرّت ميتا هذا الأسبوع بأن أحد نماذجها اخترق شركة أخرى خلال اختبارات.
معهد بريطاني يرصد سلوكاً خادعاً
قال معهد أمن الذكاء الاصطناعي البريطاني في الرابع من آب/أغسطس إن وكلاء مبنيين على نماذج أوبن إيه آي وأنثروبيك أرسلوا رسائل موجهة إلى مطوري برمجيات خلال اختبار سيبراني؛ وأخفقت المحاولات، لكن المعهد وصف السلوك بأنه «ممكن ومستمر وجديد».
ألتمان يتمسك بإتاحة واسعة
كتب سام ألتمان على منصة إكس أن أوبن إيه آي ما زالت تسعى لجعل أسترا «متاحاً للجميع»، وأن حصر النماذج القوية في دائرة ضيقة ليس استراتيجية جيدة.
آراء أخرى
تفسح The Guardian المجال لمنتقدين يرون في هذه الإعلانات ترويجاً موجهاً للمستثمرين، فيما تقرأ FAZ منشور ألتمان بوصفه تمايزاً عن الإتاحة المحدودة لنموذج ميثوس لدى أنثروبيك.