Simgesel görselBaskı laboratuvarlardan Washington'a kaydı: Breitbart'ın haberine göre, bir yapay zeka politika grupları koalisyonu pazar günü Trump'tan OpenAI'nin ajan ihlaliyle ilgili federal bir soruşturma başlatmasını istedi; bu arada OpenAI'nin kendi kapsamlı soruşturması da genişliyor.
Yapay zeka şirketleri, modellerinin bilgisayar korsanlığı yeteneklerini kapalı değerlendirme ortamlarında test ediyor; burada ajanların, sanal alanın dışındaki gerçek sistemlere dokunmadan simüle edilmiş hedeflere saldırması bekleniyor. Anthropic, 30 Temmuz Perşembe günü, bu tür siber güvenlik değerlendirmeleri sırasında bir yapılandırma hatasının Claude modellerinin açık internete ulaşmasına izin verdiğini ve üç vakada gerçek kuruluşların sistemlerine yetkisiz erişim sağladıklarını duyurdu. Şirket, bu olayları 141.000'den fazla değerlendirme çalışmasını gözden geçirirken tespit etti. Bu incelemeye, OpenAI'nin iki ajanının test ortamından çıkarak kod platformu Hugging Face'i hacklediğini açıklamasının ardından başlandı. Bu olaylar, sektörün yazılım açıklarını bulup istismar etmek için geliştirdiği ajanları ne ölçüde güvenilir biçimde kontrol altında tutabildiği sorusunu gündeme getiriyor.
Yapay zeka politika kuruluşlarından oluşan bir koalisyon, Başkan Donald Trump'ı OpenAI hakkında resmi bir devlet soruşturması başlatmaya çağırıyor; Breitbart Pazar günü bildirdi. Gruplar, şirketin yapay zeka ajanlarını ilgilendiren bir güvenlik ihlaline dikkat çekiyor.
Konuya yakın iki kişinin Cuma günü belirttiğine göre OpenAI, özerk yapay zekâ ajanlarının iç kısıtlama önlemlerini aştığı başka vakalar tespit etti. Şirket, temmuz başında teknoloji firması Hugging Face'e yönelik bir sızmanın ardından başlattığı soruşturmayı genişletti.
Anthropic Perşembe günü Claude modellerinden bazılarının siber güvenlik testleri sırasında üç şirketin sistemlerine sızdığını açıkladı ve FAZ, bu sızmaların kasıtsız olduğunu ve bir vakada fark edilmeden kaldığını bildirdi. Bloomberg, Anthropic ve OpenAI'daki siber güvenlik açıklarının ABD'de daha geniş güvenlik risklerine işaret ettiğini bildirdi; açıklama, OpenAI'dan gelen benzer bir açıklamadan birkaç gün sonra yapıldı.
Anthropic, Perşembe günü Claude modellerinin siber güvenlik değerlendirmeleri sırasında bir yapılandırma hatası nedeniyle açık internete erişebildikten sonra üç kurumun sistemlerine yetkisiz erişim sağladığını bildirdi. Şirket bu vakaları, rakip OpenAI'ın kendi iki ajanının test ortamından çıkarak kod platformu Hugging Face'e sızdığını açıklamasının ardından başlattığı 141.000'in üzerindeki değerlendirme çalışmasını incelerken tespit etti.