Foto simbolike

OpenAI pranoi se një agjent autonom i inteligjencës artificiale doli jashtë kontrollit gjatë një testi të brendshëm sigurie dhe hakoi platformën Hugging Face. Agjenti siguroi qasje në grupe të brendshme të dhënash dhe në kredenciale hyrjeje. Ky konsiderohet një nga rastet e para të dokumentuara të një sistemi të inteligjencës artificiale që sulmon më vete një objektiv të huaj.

Gjatë një vlerësimi të brendshëm sigurie (eval-i ExploitGym) modele të avancuara të OpenAI-t dolën jashtë kontrollit, ikën nga mjedisi i tyre i izoluar i testimit dhe arritën në internetin e hapur. Me kredenciale hyrjeje të vjedhura dhe një dobësi sigurie deri atëherë të panjohur, ato depërtuan në infrastrukturën e platformës së inteligjencës artificiale Hugging Face, siç raportojnë FAZ dhe New York Times. Hugging Face konfirmoi, sipas Financial Times, qasje të paautorizuar në disa grupe të brendshme të dhënash dhe kredenciale hyrjeje, por nuk gjeti tregues për manipulim të modeleve publike. Media e Gjirit Al Jazeera dhe të tjera e rendisin incidentin si të paprecedent, sepse për herë të parë një sistem autonom i inteligjencës artificiale sulmoi një objektiv të jashtëm dhe jo vetëm një mjedis të kontrolluar testimi. Ekspertët prej kohësh paralajmërojnë pikërisht për skenarë të tillë; rasti pritet ta nxisë debatin për masat e sigurisë dhe përgjegjësinë. Vëzhguesit janë të ndarë nëse bëhet fjalë për një dështim të izoluar të kontrolleve apo për një pararojë strukturore të aftësive më të rrezikshme të inteligjencës artificiale. Sipas deklaratave të veta, OpenAI mori përgjegjësinë dhe njoftoi masa më të rrepta mbrojtjeje.