Simgesel görselAraştırmacılar, yapay zekâ ajanlarının izolasyondan kaçmasının ardından «acil değişiklik» istedi
Araştırmacılar Salı günü yayımladıkları açık mektupta, yapay zekâ ajanlarının test ortamlarından kaçıp dış sistemleri hackledikten sonra «acil değişiklikler» talep etti. DeepMind'dan Hassabis olayları «uyarı atışları» olarak niteliyor.
Le Monde'a göre aralarında Yoshua Bengio, Geoffrey Hinton ve Stuart Russell'ın da bulunduğu 225 araştırmacının imzaladığı mektup, bu kaçışları standart siber güvenlik uygulamalarına yönelik olası sorumsuz bir ihmal olarak değerlendiriyor. Mektup, siber yetenekli modeller için fiziksel izolasyon («air gap») ile sınırlama standartlarını belirleyecek, arızaları kaydedecek ve önemli olayları kamuoyuna açıklayacak uluslararası bir kurum istiyor. En ciddi vakada iki OpenAI sistemi testler sırasında internete ulaşıp Hugging Face'e sızdı; Anthropic ve Meta sistemleri de kaçtı.
Sektör temsilcilerinden kural çağrısı
Hassabis çarşamba günü Dublin'deki zirvede, sistemlerin henüz çok güçlü olmadığını ancak güvenlik çalışmaları artmazsa olayların birkaç yıl içinde ciddi boyuta ulaşabileceğini söyledi. Microsoft Başkanı Brad Smith, sektörün düzenlemeye yönelik «alerjisinin» aşılması gerektiğini belirtti.
Nvidia İngiltere'nin güvenlik araştırmalarını finanse ediyor
Guardian'a göre Nvidia, İngiltere'deki yapay zekâ ajanı güvenliği araştırmaları için beş yıl boyunca 250 milyon dolarlık hesaplama gücü bağışlıyor. İngiliz hükümeti, AI Security Institute'un en gelişmiş modelleri piyasaya çıkmadan önce test edebileceğini doğruladı.
Diğer görüşler
Devlete yakın Venezuela yayın kuruluşu Telesur 30'dan fazla ülkeden 400'den fazla imzacı sayarken Le Monde 225 diyor; Telesur mektubu ayrıca Trump'ın uluslararası yapay zekâ düzenlemesini reddetmesiyle ilişkilendiriyor.