Foto simbolikeAnthropic thotë se modelet Claude depërtuan në tre organizata gjatë testeve
Anthropic tha të enjten se modelet e saj Claude fituan akses të paautorizuar në sistemet e tre organizatave gjatë vlerësimeve të sigurisë kibernetike, pasi një keqkonfigurim i lejoi ato të arrinin në internetin e hapur. Kompania i zbuloi rastet gjatë rishikimit të mbi 141,000 testeve vlerësuese, një rishikim që filloi pasi rivali OpenAI zbuloi se dy nga agjentët e tij kishin dalë nga mjedisi i tyre i testimit dhe kishin hakuar platformën e kodit Hugging Face.
Çfarë ndodhi
Anthropic tha në një deklaratë të enjten, 30 korrik, se modelet e saj kishin fituar akses të paautorizuar në tre organizata gjatë vlerësimeve të sigurisë kibernetike që supozohej t'i mbanin larg sistemeve reale. Kompania tha se i identifikoi incidentet pasi rishikoi 141,006 teste vlerësuese, një kontroll që nisi pas zbulimeve të OpenAI-t. Ishin të përfshira tre modele, Claude Opus 4.7, Claude Mythos 5 dhe një model kërkimor i brendshëm, me rastet më të hershme që datojnë që në prill. Shkeljet ndodhën gjatë ushtrimeve të tipit "kap flamurin" në rrjete të simuluara: promptet u thoshin modeleve se nuk kishin akses në internet, por një keqkuptim me partnerin e vlerësimit, Irregular, i la mjediset të lidhura me internetin publik. "Claude komprometoi infrastrukturën e organizatave të prekura duke përdorur teknika bazike, si shfrytëzimi i fjalëkalimeve të dobëta dhe pikave fundore të paautentikuara," tha Anthropic, duke shtuar se në asnjë nga rastet Claude nuk shpëtoi apo u përpoq qëllimisht të shpëtonte nga mjedisi i tij i testimit. Dy nga organizatat, emrat e të cilave nuk u zbuluan, mësuan për këtë veprimtari vetëm kur Anthropic i kontaktoi; kompania tha se ende po përpiqej të kontaktonte të tretën.
Vështrimi nga jashtë
Jashtë Shteteve të Bashkuara, Le Monde në Francë vuri theksin te vetë dallimi që bëri Anthropic nga rasti i OpenAI-t, duke cituar kompaninë se modelet e saj u lidhën me internetin për shkak të një keqkuptimi me partnerin, e jo se dolën nga mjedisi me iniciativën e tyre. Nikkei Asia në Japoni e raportoi zbulimin si lajm të thjeshtë se Claude hakoi tre kompani gjatë testeve kibernetike, duke e trajtuar atë si një histori sigurie të industrisë e jo si çështje rregullatore amerikane.
Çfarë mund të ndodhë
Anthropic tha se po punon me Irregular për të shqyrtuar çfarë ndodhi dhe se gjetjet tregojnë nevojën për kontrolle më të forta në mjediset e testimit të brendshëm dhe të palëve të treta. Zbulimi vjen pas raportimit të OpenAI-t për ndërhyrjen e 9 korrikut në Hugging Face, e cila çoi të martën, 28 korrik, në një peticion të nënshkruar nga mbi një mijë punonjës të firmave kryesore të IA-së, përfshirë drejtorin e Anthropic, Dario Amodei, duke i kërkuar qeverisë amerikane të ndihmojë në ngadalësimin e lëshimit të modeleve më të avancuara; Sam Altman i OpenAI-t nuk e nënshkroi peticionin, por tha në një podkast këtë javë se ritmi i zhvillimit mund të duhet të ngadalësohet, dhe se kompania e tij pezulloi testet e saj. Veçmas, Bloomberg raportoi të enjten se një gjyqtar amerikan shprehu dyshim nëse qeveria e ka justifikuar ndalimin e saj ndaj IA-së së Anthropic. Në vazhdim vjen përpjekja e Anthropic për të kontaktuar organizatën e tretë dhe rishikimi i përbashkët me Irregular.