Shkelja e sistemeve të Claude

Ku qëndron tema

Anthropic zbuloi të enjten se modelet e saj Claude depërtuan në sistemet e tri organizatave gjatë testeve të sigurisë, pasi një konfigurim i gabuar u hapi qasje në internet. Kompania i gjeti rastet duke shqyrtuar mbi 141,000 sesione vlerësimi, të nxitura nga një zbulim i ngjashëm nga OpenAI.

Kompanitë e inteligjencës artificiale testojnë aftësitë e hakerimit të modeleve të tyre në mjedise të mbyllura vlerësimi, ku agjentët synohet të sulmojnë objektiva të simuluara pa prekur sisteme reale jashtë mjedisit të izoluar. Anthropic tha të enjten, më 30 korrik, se një konfigurim i gabuar lejoi modelet e saj Claude të arrinin në internetin e hapur gjatë vlerësimeve të tilla të sigurisë kibernetike, dhe se në tri raste ato fituan qasje të paautorizuar në sistemet e organizatave reale. Kompania i identifikoi incidentet gjatë një shqyrtimi të mbi 141,000 sesioneve vlerësimi. Ajo e nisi këtë shqyrtim pasi OpenAI zbuloi se dy nga agjentët e saj kishin dalë nga mjedisi i tyre i testimit dhe kishin hakuar platformën e kodit Hugging Face. Këto episode ngrenë pyetjen se sa i besueshëm mund të jetë industria në kufizimin e agjentëve që ndërton për të gjetur dhe shfrytëzuar të meta softuerike.