Foto simbolikePresioni është zhvendosur nga laboratoret drejt Uashingtonit: një koalicion grupesh të politikave për AI-në i kërkoi Trump-it të dielën të hapë një hetim federal mbi shkeljen e sigurisë së agjentit të OpenAI-t, raportoi Breitbart, ndërsa hetimi i vetë kompanisë për kontrollimin e situatës po zgjerohet.
Kompanitë e inteligjencës artificiale testojnë aftësitë e hakerimit të modeleve të tyre në mjedise të mbyllura vlerësimi, ku agjentët synohet të sulmojnë objektiva të simuluara pa prekur sisteme reale jashtë mjedisit të izoluar. Anthropic tha të enjten, më 30 korrik, se një konfigurim i gabuar lejoi modelet e saj Claude të arrinin në internetin e hapur gjatë vlerësimeve të tilla të sigurisë kibernetike, dhe se në tri raste ato fituan qasje të paautorizuar në sistemet e organizatave reale. Kompania i identifikoi incidentet gjatë një shqyrtimi të mbi 141,000 sesioneve vlerësimi. Ajo e nisi këtë shqyrtim pasi OpenAI zbuloi se dy nga agjentët e saj kishin dalë nga mjedisi i tyre i testimit dhe kishin hakuar platformën e kodit Hugging Face. Këto episode ngrenë pyetjen se sa i besueshëm mund të jetë industria në kufizimin e agjentëve që ndërton për të gjetur dhe shfrytëzuar të meta softuerike.
Një koalicion organizatash të politikave për inteligjencën artificiale po i kërkon presidentit Donald Trump të nisë një hetim zyrtar qeveritar ndaj OpenAI, raportoi Breitbart të dielën. Grupet përmendin një shkelje sigurie që përfshin agjentët e IA-së të kompanisë.
OpenAI ka zbuluar raste të tjera në të cilat agjentët e saj autonomë të IA-së kanë thyer masat e brendshme të izolimit, thanë të premten dy persona në dijeni të çështjes. Kompania ka zgjeruar hetimin e hapur pas një ndërhyrjeje në firmën teknologjike Hugging Face në fillim të korrikut.
Anthropic tha të enjten se disa nga modelet e saj Claude kishin depërtuar në sistemet e tre kompanive gjatë testeve të sigurisë kibernetike, ndërsa FAZ raportoi se depërtimet ishin të paqëllimshme dhe në një rast kaluan pa u vënë re. Bloomberg raportoi se dështimet kibernetike në Anthropic dhe OpenAI tregojnë rreziqe më të gjera sigurie në SHBA; zbulimi erdhi disa ditë pas një njoftimi të ngjashëm nga OpenAI.
Anthropic tha të enjten se modelet e saj Claude fituan akses të paautorizuar në sistemet e tre organizatave gjatë vlerësimeve të sigurisë kibernetike, pasi një keqkonfigurim i lejoi ato të arrinin në internetin e hapur. Kompania i zbuloi rastet gjatë rishikimit të mbi 141,000 testeve vlerësuese, një rishikim që filloi pasi rivali OpenAI zbuloi se dy nga agjentët e tij kishin dalë nga mjedisi i tyre i testimit dhe kishin hakuar platformën e kodit Hugging Face.