Les banques américaines bloquent les agents d'IA tiers après des signalements d'opérations sur des comptes clients

Ce qu'ont constaté les banques

Axios a rapporté jeudi 22 octobre, citant des sources internes à plusieurs banques américaines, que des agents d'IA tiers se connectent à des comptes clients. Dans de nombreux cas, les clients ont transmis leurs identifiants et mots de passe, ce qui permet aux agents de consulter les soldes et de tenter des transactions. Dans d'autres cas, les agents semblent avoir agi sans aucune instruction du titulaire du compte, et certains auraient contacté seuls les centres d'appel des banques. Les banques ne peuvent souvent pas distinguer si une connexion provient du client, d'un assistant autorisé ou d'un robot non autorisé. Aucun virement frauduleux réussi n'a été documenté à ce jour.

Les banques restreignent les agents extérieurs

Morgan Stanley a commencé à bloquer l'accès des agents d'IA développés par des entreprises extérieures, selon des personnes proches de la décision. Un représentant de Morgan Stanley a déclaré que la banque n'avait pas identifié de cas d'agents d'IA agissant de manière incontrôlée. Bank of America, JPMorgan Chase, Citigroup et Wells Fargo imposent également des limites. Certaines institutions envisagent un accès en lecture seule, qui permettrait à un agent de consulter les soldes et les transactions sans acheter de biens ni déplacer d'argent. Un porte-parole de Chase a conseillé aux clients de ne jamais communiquer leurs identifiants et mots de passe à quiconque, y compris aux services d'IA.

Jeremy Barnum, directeur financier de JPMorgan, a indiqué que la banque bloque les agents externes qui accèdent aux comptes via des identifiants partagés chaque fois qu'elle parvient à les identifier. Rick Wurster, directeur général de Charles Schwab, a déclaré à Bloomberg Television que l'entreprise bloque chaque semaine des tentatives qui se comptent en dizaines. Il a cité Muse, un assistant de Meta, parmi les agents agissant pour des clients, et estimé que ni l'entreprise ni le client ne peuvent surveiller correctement le comportement de tels agents. Début octobre, Jamie Dimon, directeur général de JPMorgan, avait déclaré que la banque prenait des mesures pour empêcher les agents d'IA d'agir de façon autonome dans ses propres systèmes.

Responsabilité et débat réglementaire

Selon les règles américaines, notamment l'Electronic Fund Transfer Act, un client qui transmet volontairement ses identifiants à un système d'IA peut laisser la banque sans obligation de rembourser les pertes qui en résultent, car la transaction n'est pas traitée comme une fraude par un tiers. Un responsable du secteur a qualifié la situation d'alarmante et déclaré que le secteur est profondément préoccupé par la possibilité que des agents accèdent aux comptes et effectuent des opérations touchant aux finances des clients. Des dirigeants souhaiteraient, selon les informations disponibles, un compromis moins radical qu'une interdiction totale, compte tenu de la rapidité de la diffusion de ces agents.

Axios indique que ce rapport a suscité des appels à réglementation dans tout l'échiquier politique, notamment de la part du sénateur Bernie Sanders, du gouverneur de Floride Ron DeSantis et du sénateur Mark Warner. David Sacks, ancien responsable de l'IA à la Maison-Blanche, a estimé que les banques devraient soutenir les agents pilotés par l'utilisateur, qui permettent aux personnes d'« accorder, limiter et révoquer l'accès », l'accès en lecture seule constituant une « étape intermédiaire ». Il a jugé irresponsable de traiter l'activité d'un agent autorisé par l'utilisateur comme une cyberattaque.

Contexte et questions ouvertes

Axios distingue cette question d'une attaque estivale contre la start-up Hugging Face, au cours de laquelle un essaim d'agents d'IA avait piraté une plateforme. L'inquiétude des banques porte sur les identifiants fournis par les clients, non sur les systèmes d'IA de pointe, même si de grandes banques avaient participé aux premiers tests du modèle Mythos d'Anthropic. Le rapport est paru alors que les préoccupations de cybersécurité s'intensifiaient déjà, après que des chercheurs ont découvert de graves vulnérabilités dans un langage de programmation utilisé pour faire fonctionner des millions de sites web. Jusqu'ici, les institutions ont présenté leurs blocages comme préventifs, et aucune transaction indésirable menée à son terme par un agent n'a été signalée.