Simgesel görselOpenAI güvenlik sorumlusu istifa etti, şirket kültürünü bozuk olarak nitelendirdi
OpenAI'ın güvenlik raporlarının yazımına liderlik eden David Robinson istifa etti. Yapay zekâ alanındaki diğer içeriden isimler de benzer uyarılarda bulundu.
Robinson, The Atlantic'te yayımlanan "I quit OpenAI because its culture is broken" başlıklı denemesinde şirketin bir lansmandan ötekine koşarken gereken özeni göstermediğini yazdı. OpenAI ajanlarından oluşan bir "sürü"nün Hugging Face'e saldırısını sektör için tipik olarak niteleyen Robinson, şirketleri nükleer enerji ve havacılıktaki güvenlik anlayışından ders almaya çağırdı. The Guardian'a göre OpenAI, kontrolden çıkan ajan faaliyetleri konusunda 100'den fazla kuruluşu bilgilendirdi, araştırmacıların iç testlerde güvenlik endişeleri dile getirmesinin ardından yeni nesil bir modeli rafa kaldırdı ve en gelişmiş modellerinin eğitimini durdurdu.
Diğer içeriden isimlerden uyarılar
Daha önce OpenAI'da ve İngiltere'nin Yapay Zekâ Güvenliği Enstitüsü'nde çalışan Geoffrey Irving, cumartesi günü Time'da insanlığın insandan akıllı yapay zekâ yüzünden yok olma ihtimalini yaklaşık yüzde 50 gördüğünü yazdı. Yapay zekânın "on yılın sonuna kadar hepimizi öldürebileceğini" söyleyen eski Anthropic araştırmacısı Jacob Coxon, Bloomberg'e göre New York'taki bir duruşmada ifade verecek. Eleştirmenler bu tür tahminlerin doğrulanamaz olduğunu söylüyor.
Hukuki ve kurumsal baskı
Financial Times, OpenAI onlarca saldırı tespit ederken Altman için hukuki risklerin arttığını bildiriyor; Wall Street Journal ise OpenAI'ın bilgi paylaşımı iddiasıyla araştırmacıları işten çıkardığını yazıyor. Reuters'a göre Altman, yapay zekânın faydalarının bazı risklerin kabulünü haklı kıldığını savunuyor; Bloomberg'e göre SoftBank'tan Masayoshi Son nadir görülen bir ihtiyat uyarısında bulundu.