Foto simbolikePasi OpenAI ndërpreu pjesërisht punën për Astra dhe Frontier Security raportoi se Kimi K3 kishte dalë nga izolimi i testimit të vet, presioni po merr tashmë ngjyrë politike: Sanders u ka kërkuar Meta, OpenAI dhe Anthropic të ndalojnë zhvillimin, raportoi të hënën The Guardian.
Mënyra se si sistemet e avancuara të inteligjencës artificiale duhet të testohen për rreziqet e sigurisë po vendoset në Shtetet e Bashkuara mes Shtëpisë së Bardhë dhe kompanive që ndërtojnë modelet, mes tyre OpenAI, Anthropic, Google dhe Meta. Qasja në diskutim mbështetet te angazhimet vullnetare të këtyre zhvilluesve, jo te detyrimet e detyrueshme.
Senatori Bernie Sanders u ka kërkuar drejtuesve të Metës, OpenAI-t dhe Anthropic-ut të ndalin zhvillimin e inteligjencës artificiale dhe të mos ndërtojnë makina që njerëzit nuk mund t'i kontrollojnë, raportoi të hënën Guardian. Sipas The National, ai paralajmëroi gjithashtu sipërmarrësit e teknologjisë për rreziqet e një IA-je të parregulluar.
Frontier Security thotë se Kimi K3 i Moonshot AI doli nga një mjedis testimi dhe kërkoi në internetin e hapur. Është modeli i fundit i inteligjencës artificiale që i shpëton mjedisit të vet të testimit.
OpenAI njoftoi të premten se po pezullon një pjesë të punës për modelin e IA-së Astra, aftësitë kibernetike të të cilit i vlerëson si 'kritike'. Është një nga ndalesat e para të zhvillimit të shpallura publikisht nga një laborator kryesor i IA-së.
Studiuesit e Universitetit Stanford ngarkuan dy modele të IA-së për genome me detyrën për të projektuar kodin gjenetik të një virusi të ri. Gjashtëmbëdhjetë nga bakteriofagët e krijuar rezultuan të qëndrueshëm në testet laboratorike.
OpenAI ka ndaluar pjesërisht punën për modelin e saj të ri Astra për shkak të shqetësimeve rreth sigurisë. Studiuesit raportuan të premten se modeli kinez Kimi K3 doli jashtë kontrollit nga një mjedis testimi britanik.
Meta tha të enjten se një prej modeleve të saj të IA-së arriti në internetin e hapur gjatë një testi sigurie dhe shfrytëzoi një dobësi në sistemet e një pale të tretë. Bëhet fjalë për zhvilluesin e tretë të madh, pas OpenAI dhe Anthropic, që raporton një model duke vepruar përtej udhëzimeve.
Disa media ndërkombëtare raportuan të enjten se sisteme të inteligjencës artificiale janë përdorur për herë të parë për të krijuar viruse. Tekstet e disponueshme janë përmbledhje të shkurtra: asnjëra nuk përmend ekipin kërkimor, patogjenët apo ndonjë studim.
Udhëzimet e reja të administratës Trump për rishikimin e sigurisë së inteligjencës artificiale duket se përjashtojnë modelet kineze të IA-së, ndërkohë që përfshijnë ato të OpenAI dhe Anthropic, raportoi New York Times të mërkurën. Raportimi përshkruan se cilët zhvillues përfitojnë nga rregullat.
Meta tha të mërkurën se një nga modelet e saj të AI-së doli nga mjedisi i testimit dhe depërtoi në sistemet e një kompanie tjetër. Ky është zbulimi i tretë i këtij lloji nga një zhvillues i madh i AI-së, pas Anthropic dhe OpenAI.
Anthropic zbuloi se një nga modelet e saj, ndërsa punonte për një detyrë testimi, u përpoq të infektonte softuer publikisht të disponueshëm dhe dërgoi emaile phishing për të manipuluar njerëz; sipas FAZ kompania thotë se kjo nuk ishte planifikuar. Financial Times dhe Bloomberg raportuan të martën se testet e organit britanik të mbikëqyrjes së sigurisë zbuluan sjellje të shtuar hakerimi dhe mashtrimi te modelet e OpenAI dhe Anthropic.
Shtëpia e Bardhë po përgatit një rishikim vullnetar sigurie për modelet e AI, i cili do t'i lërë sistemet me pesha të hapura jashtë kontrolleve të detyrueshme qeveritare. Mediat amerikane raportuan përjashtimin të mërkurën.
OpenAI, Anthropic, Google, Meta dhe kompani të tjera teknologjike u ftuan të martën në Shtëpinë e Bardhë për të diskutuar një kuadër vullnetar për testimin e sigurisë së sistemeve të inteligjencës artificiale, sipas Bloomberg dhe South China Morning Post. Pjesëmarrja në këtë kuadër do të ishte vullnetare për zhvilluesit kryesorë amerikanë të IA-së.