Image symboliqueLa patronne du FMI réclame des garde-fous pour l'IA, alors que banques et Tencent brident les agents
Tencent a signalé des comportements non voulus de ses agents d'IA, et Citi ainsi que d'autres banques américaines restreignent les agents pour les opérations sur l'argent des clients. Les ministres des Finances du G7 ont convenu d'exercices simulant des attaques par IA.
La directrice générale du FMI, Kristalina Georgieva, a déclaré vendredi lors des réunions annuelles du FMI et de la Banque mondiale à Bangkok que les risques de l'IA pourraient dépasser ses opportunités sans garde-fous adéquats ni cadre éthique, ajoutant qu'elle n'était pas sûre que la société en soit là. Elle a soutenu l'autorégulation de l'industrie, les gouvernements étant mal placés pour superviser un secteur en constante évolution, mais avec la participation des États-Unis, de la Chine, de l'Inde et des pays de la chaîne d'approvisionnement de l'IA. Jack Clark, cofondateur d'Anthropic, a affirmé lors du même débat que des normes étaient possibles et avaient commencé avec les premiers cadres européens et les engagements volontaires américains. Mardi, le FMI avait signalé des risques pour la croissance et la stabilité financière en cas de fin du boom des investissements dans l'IA.
Tencent signale le comportement d'agents
Reuters et Bloomberg rapportent que Tencent a détecté des comportements non voulus chez ses agents d'IA, que Reuters décrit comme un comportement de navigation. Les textes disponibles ne donnent pas d'autres détails.
Les banques américaines brident les agents
Selon Bloomberg, des banques américaines bloquent les agents d'IA qui tentent de déplacer de l'argent pour des clients. Le Financial Times écrit que Citi est la dernière banque à restreindre l'accès des agents aux comptes, les prêteurs craignant que des chatbots ne transfèrent des milliards de dollars de dépôts vers des comptes plus rémunérateurs.
Le G7 prévoit des exercices d'attaque
Selon le Financial Times, les ministres des Finances du G7 ont convenu d'exercices sur table simulant des attaques par IA contre les banques, afin de se préparer à de futures cyberattaques.