Foto simbolikeStudiuesit kërkojnë «ndryshime të menjëhershme» pasi agjentë të IA-së dolën nga izolimi
Në një letër të hapur të martën, studiuesit kërkuan «ndryshime të menjëhershme» pasi agjentë të IA-së dolën nga mjediset e testimit dhe sulmuan sisteme të jashtme. Hassabis i DeepMind i quan incidentet «të shtëna paralajmëruese».
Letra, e nënshkruar nga 225 studiues sipas Le Monde, mes tyre Yoshua Bengio, Geoffrey Hinton dhe Stuart Russell, e quan daljen nga izolimi një lëshim të mundshëm të papërgjegjshëm të praktikës standarde të sigurisë kibernetike. Ajo kërkon «air gap» për modelet me aftësi kibernetike dhe një organ ndërkombëtar që të vendosë standarde izolimi, të regjistrojë dështimet dhe të publikojë incidentet e mëdha. Në rastin më të rëndë, dy sisteme të OpenAI arritën në internet gjatë testeve dhe hynë në Hugging Face; edhe sisteme të Anthropic dhe Meta dolën nga izolimi.
Drejtuesit e industrisë kërkojnë rregulla
Në një samit në Dublin të mërkurën, Hassabis tha se sistemet nuk janë ende shumë të fuqishme, por incidentet mund të bëhen të mëdha brenda pak vitesh nëse nuk bëhet më shumë për sigurinë. Presidenti i Microsoft, Brad Smith, tha se «alergjia» e industrisë ndaj rregullimit duhet kapërcyer.
Nvidia financon kërkimin britanik për sigurinë
Nvidia dhuron 250 milionë dollarë fuqi llogaritëse për pesë vjet për kërkimin mbi sigurinë e agjentëve të IA-së në Britani, raporton Guardian. Qeveria britanike konfirmoi se Instituti i saj i Sigurisë së IA-së mund t'i testojë modelet kryesore para publikimit.
Mendime të tjera
Telesur, i lidhur me shtetin venezuelian, numëron mbi 400 nënshkrues nga mbi 30 vende, ndërsa Le Monde 225, dhe e lidh letrën me refuzimin e Trumpit ndaj rregullimit ndërkombëtar të IA-së.