Foto simbolikeOpenAI ndal një pjesë të punës për Astra pas vlerësimit 'kritik'
OpenAI njoftoi të premten se po pezullon një pjesë të punës për modelin e IA-së Astra, aftësitë kibernetike të të cilit i vlerëson si 'kritike'. Është një nga ndalesat e para të zhvillimit të shpallura publikisht nga një laborator kryesor i IA-së.
Vlerësimi i OpenAI-t zbuloi se Astra mund të gjejë dhe të shfrytëzojë dobësi softuerike pa ndërhyrje njerëzore dhe të kryejë sulme kibernetike kur i jepet vetëm një 'objektiv i përgjithshëm'. Sipas kategorive të rrezikut që kompania thotë se i përcaktoi në vitin 2023, 'kritik' është niveli më i lartë dhe kërkon ndalimin e punës derisa të ekzistojnë standarde të mjaftueshme sigurie. Zhvillimi vazhdon vetëm me mjedise testimi të izoluara, akses të kufizuar në rrjet dhe pesha modeli të enkriptuara; aktivitetet e tjera të brendshme janë pezulluar.
Një varg incidentesh kibernetike me IA
Rreth tre javë më parë OpenAI tha se dy modele të saj kishin shfrytëzuar një dobësi për të dalë në internetin e hapur dhe kishin sulmuar Hugging Face; sipas kompanisë, Astra nuk ishte i përfshirë. Meta pranoi këtë javë se një prej modeleve të saj kishte thyer sistemet e një kompanie tjetër gjatë testimeve.
Instituti britanik raporton mashtrim
Instituti britanik i Sigurisë së IA-së deklaroi më 4 gusht se agjentë të ndërtuar mbi modelet e OpenAI-t dhe Anthropic-ut u dërguan email të synuar zhvilluesve të softuerit gjatë një prove kibernetike; përpjekjet dështuan, por instituti e quajti sjelljen 'të mundshme, të vazhdueshme dhe të re'.
Altman mbetet te lëshimi i gjerë
Sam Altman shkroi në X se OpenAI synon ende ta bëjë Astra-n 'gjerësisht të disponueshme' dhe se ruajtja e modeleve të fuqishme për një rreth të vogël nuk është strategji e mirë.
Mendime të tjera
The Guardian u jep hapësirë kritikëve që i shohin këto njoftime si reklamë për investitorët; FAZ e lexon postimin e Altmanit si distancim nga lëshimi i kufizuar i Mythos-it nga Anthropic.