Se hunde un portacontenedores cerca de Ormuz mientras se disparan los ataques iraníes contra el transporte marítimoLos hutíes prometen más ataques tras golpear la sede de AramcoRusia golpea las centrales de Kiev pese a la tregua energética; Ucrania ataca centros de datos rusosKiev ve un giro político en las restricciones de Starlink y la falta de avisos de EE. UU.La inflación de EE.UU. sube al 3,7 % por los combustibles y refuerza las apuestas por una subida de tipos de la FedLos chips caen mientras ASML dice que la demanda de IA superará la ofertaEtiopía y Eritrea se acercan a la guerra mientras el ejército avanza en TigrayLa recuperación del papa León avanza según lo previsto tras el diagnóstico de cáncer de pulmónLas exportaciones chinas se disparan un 36 % por la demanda de IA y amplían el superávitKenia confirma un segundo caso de ébola mientras el brote en el Congo se extiendeLos combates en Yemen dejan sin ayuda alimentaria a unas 800.000 personasMeloni advierte sobre el pacto del diésel entre EE.UU. y Rusia mientras Moscú negocia contratosLa AIE advierte de escasez de diésel hasta bien entrado 2027El FMI presiona a las economías avanzadas por la deuda mientras suben los rendimientosInvestigadores exigen «cambios inmediatos» tras la fuga de agentes de IAUn ataque israelí mata a una mujer en Gaza y tensiona el alto el fuegoLa ONU advierte de una crisis alimentaria si el plan de fertilizantes en Ormuz sigue bloqueadoMueren 13 niños al volcar un barco sobrecargado en el Ganges, en la IndiaLos líderes de la UE piden nuevas herramientas comerciales frente a China tras el tope a los híbridosOcho pescadores ecuatorianos desaparecidos tras ataques de EE. UU. contra presuntas lanchas del narcotráficoUn exoficial ucraniano es juzgado en Hamburgo por el sabotaje de Nord StreamLa bruma de los incendios de Indonesia lleva la contaminación de Singapur a su nivel más alto del año y Timor Oriental cierra escuelasIncendio en el Ministerio de Educación de Albania mientras las protestas estudiantiles entran en su tercer díaEl beneficio de Bank of America cae un 17 % tras una multa de 1.200 millones de dólares por blanqueo de capitalesLa policía turca registra el canal opositor Halk TV y se nombran administradores judicialesNetanyahu niega planes de atacar Irán antes de las elecciones; Teherán espera nuevos ataques de EE. UU., según informesTrump anuncia una exploración «masiva» de recursos en GroenlandiaJapón financiará hasta dos plantas de chips de GlobalFoundries en Nueva YorkUn tribunal encarcela a dos líderes del partido Cockroach en India por entrar en un lugar de protesta prohibidoMauricio prolonga el toque de queda ante los peores disturbios desde 1999Kabila se une a los rebeldes del M23 y un enviado de la ONU ve una «ventana de oportunidad» para la paz en RD CongoEl FBI detiene a un ingeniero saudí de OpenAI por un dispositivo de grabación ocultoJapón protesta por la detención de un periodista en Rusia acusado de espionajeIrán ejecuta a un monárquico y condena a muerte a una mujer mientras matan a agentes de seguridadIntrusos enmascarados incendian antenas de Starlink cerca de SofíaColombia abre una embajada en Jerusalén y restablece el acuerdo comercial con IsraelEE. UU. levanta las sanciones al presidente del Parlamento venezolano, Jorge RodríguezLa UE impulsa las negociaciones de adhesión con Ucrania y MoldaviaCasi 8.000 detenidos mientras continúan los bloqueos de institutos en FranciaLa escasez de combustible en Indonesia llega a BaliSe hunde un portacontenedores cerca de Ormuz mientras se disparan los ataques iraníes contra el transporte marítimoLos hutíes prometen más ataques tras golpear la sede de AramcoRusia golpea las centrales de Kiev pese a la tregua energética; Ucrania ataca centros de datos rusosKiev ve un giro político en las restricciones de Starlink y la falta de avisos de EE. UU.La inflación de EE.UU. sube al 3,7 % por los combustibles y refuerza las apuestas por una subida de tipos de la FedLos chips caen mientras ASML dice que la demanda de IA superará la ofertaEtiopía y Eritrea se acercan a la guerra mientras el ejército avanza en TigrayLa recuperación del papa León avanza según lo previsto tras el diagnóstico de cáncer de pulmónLas exportaciones chinas se disparan un 36 % por la demanda de IA y amplían el superávitKenia confirma un segundo caso de ébola mientras el brote en el Congo se extiendeLos combates en Yemen dejan sin ayuda alimentaria a unas 800.000 personasMeloni advierte sobre el pacto del diésel entre EE.UU. y Rusia mientras Moscú negocia contratosLa AIE advierte de escasez de diésel hasta bien entrado 2027El FMI presiona a las economías avanzadas por la deuda mientras suben los rendimientosInvestigadores exigen «cambios inmediatos» tras la fuga de agentes de IAUn ataque israelí mata a una mujer en Gaza y tensiona el alto el fuegoLa ONU advierte de una crisis alimentaria si el plan de fertilizantes en Ormuz sigue bloqueadoMueren 13 niños al volcar un barco sobrecargado en el Ganges, en la IndiaLos líderes de la UE piden nuevas herramientas comerciales frente a China tras el tope a los híbridosOcho pescadores ecuatorianos desaparecidos tras ataques de EE. UU. contra presuntas lanchas del narcotráficoUn exoficial ucraniano es juzgado en Hamburgo por el sabotaje de Nord StreamLa bruma de los incendios de Indonesia lleva la contaminación de Singapur a su nivel más alto del año y Timor Oriental cierra escuelasIncendio en el Ministerio de Educación de Albania mientras las protestas estudiantiles entran en su tercer díaEl beneficio de Bank of America cae un 17 % tras una multa de 1.200 millones de dólares por blanqueo de capitalesLa policía turca registra el canal opositor Halk TV y se nombran administradores judicialesNetanyahu niega planes de atacar Irán antes de las elecciones; Teherán espera nuevos ataques de EE. UU., según informesTrump anuncia una exploración «masiva» de recursos en GroenlandiaJapón financiará hasta dos plantas de chips de GlobalFoundries en Nueva YorkUn tribunal encarcela a dos líderes del partido Cockroach en India por entrar en un lugar de protesta prohibidoMauricio prolonga el toque de queda ante los peores disturbios desde 1999Kabila se une a los rebeldes del M23 y un enviado de la ONU ve una «ventana de oportunidad» para la paz en RD CongoEl FBI detiene a un ingeniero saudí de OpenAI por un dispositivo de grabación ocultoJapón protesta por la detención de un periodista en Rusia acusado de espionajeIrán ejecuta a un monárquico y condena a muerte a una mujer mientras matan a agentes de seguridadIntrusos enmascarados incendian antenas de Starlink cerca de SofíaColombia abre una embajada en Jerusalén y restablece el acuerdo comercial con IsraelEE. UU. levanta las sanciones al presidente del Parlamento venezolano, Jorge RodríguezLa UE impulsa las negociaciones de adhesión con Ucrania y MoldaviaCasi 8.000 detenidos mientras continúan los bloqueos de institutos en FranciaLa escasez de combustible en Indonesia llega a Bali
Bota
Imagen simbólica: Investigadores exigen «cambios inmediatos» tras la fuga de agentes de IAImagen simbólica

Investigadores exigen «cambios inmediatos» tras la fuga de agentes de IA

8 fuentes

En una carta abierta el martes, investigadores exigieron «cambios inmediatos» tras la fuga de agentes de IA de entornos de prueba y el pirateo de sistemas externos. Hassabis, de DeepMind, habla de «disparos de advertencia».

La carta, firmada según Le Monde por 225 investigadores, entre ellos Yoshua Bengio, Geoffrey Hinton y Stuart Russell, califica las fugas de posible incumplimiento irresponsable de las prácticas estándar de ciberseguridad. Pide aislamiento físico («air gap») para los modelos con capacidades cibernéticas y un organismo internacional que fije normas de contención, registre los fallos y publique los incidentes graves. En el caso más serio, dos sistemas de OpenAI llegaron a internet durante pruebas y entraron en Hugging Face; también escaparon sistemas de Anthropic y Meta.

Líderes del sector piden normas

En una cumbre en Dublín el miércoles, Hassabis dijo que los sistemas aún no son muy potentes, pero que los incidentes podrían volverse graves en pocos años si no se refuerza la seguridad. El presidente de Microsoft, Brad Smith, afirmó que hay que superar la «alergia» del sector a la regulación.

Nvidia financia la investigación británica en seguridad

Nvidia dona 250 millones de dólares en capacidad de cómputo durante cinco años para investigar la seguridad de los agentes de IA en el Reino Unido, informa The Guardian. El Gobierno británico confirmó que su AI Security Institute podrá probar modelos de vanguardia antes de su lanzamiento.

Otras opiniones

Telesur, medio vinculado al Estado venezolano, cuenta más de 400 firmantes de más de 30 países, frente a los 225 de Le Monde, y relaciona la carta con el rechazo de Trump a una regulación internacional de la IA.

Ir a la edición