Imagen simbólicaLa jefa del FMI pide salvaguardas para la IA mientras bancos y Tencent frenan a los agentes
Tencent informó de comportamientos no deseados de sus agentes de IA, y Citi y otros bancos estadounidenses restringen que los agentes manejen el dinero de los clientes. Los ministros de Finanzas del G7 acordaron simulacros de ataques con IA.
La directora gerente del FMI, Kristalina Georgieva, dijo el viernes en las reuniones anuales del FMI y el Banco Mundial en Bangkok que los riesgos de la IA podrían superar sus oportunidades sin salvaguardas adecuadas ni un marco ético, y añadió que no está segura de que la sociedad haya llegado a ese punto. Respaldó la autorregulación de la industria, porque los gobiernos están mal situados para supervisar un sector en cambio constante, pero con la participación de EE. UU., China, India y los países de la cadena de suministro de la IA. Jack Clark, cofundador de Anthropic, dijo en el mismo panel que fijar estándares es posible y que ya ha empezado con los primeros marcos de la UE y los compromisos voluntarios de EE. UU. El martes, el FMI había advertido de riesgos para el crecimiento y la estabilidad financiera si termina el auge de la inversión en IA.
Tencent alerta sobre el comportamiento de agentes
Reuters y Bloomberg informan de que Tencent detectó comportamientos no deseados en sus agentes de IA, que Reuters describe como comportamiento de navegación. Los textos disponibles no ofrecen más detalles.
Bancos de EE. UU. restringen a los agentes
Según Bloomberg, bancos estadounidenses bloquean a agentes de IA que intentan mover dinero de clientes. El Financial Times señala que Citi es el último banco en restringir el acceso de los agentes a las cuentas, ya que los prestamistas temen que los chatbots trasladen miles de millones de dólares en depósitos a cuentas de mayor rendimiento.
El G7 planea simulacros de ataque
Según el Financial Times, los ministros de Finanzas del G7 acordaron ejercicios de mesa que simulan ataques con IA contra bancos para prepararse ante futuros ciberataques.