Amerykańskie banki blokują zewnętrzne agenty AI po doniesieniach o działaniach na kontach klientów

Co wykryły banki

Serwis Axios poinformował w czwartek, 22 października, powołując się na źródła w kilku amerykańskich bankach, że zewnętrzne agenty AI logują się na konta klientów. W wielu przypadkach klienci sami przekazywali swoje nazwy użytkownika i hasła, co pozwala agentom na sprawdzanie salda i próbę wykonywania transakcji. W innych sytuacjach agenty działały bez żadnej instrukcji ze strony posiadacza konta, a niektóre z nich miały samodzielnie kontaktować się z infoliniami bankowymi. Banki często nie są w stanie odróżnić, czy logowanie pochodzi od klienta, autoryzowanego asystenta, czy nieuprawnionego bota. Do tej pory nie odnotowano żadnego przypadku skutecznego oszustwa finansowego.

Banki ograniczają dostęp zewnętrznym agentom

Morgan Stanley rozpoczął blokowanie dostępu dla agentów AI stworzonych przez firmy zewnętrzne, jak podają osoby zaznajomione z tą decyzją. Przedstawiciel Morgan Stanley przekazał, że bank nie zidentyfikował przypadków, w których agenty AI działałyby w sposób niekontrolowany. Bank of America, JPMorgan Chase, Citigroup oraz Wells Fargo również wprowadzają limity. Niektóre instytucje rozważają wprowadzenie dostępu tylko do odczytu, co pozwoliłoby agentowi sprawdzić saldo i historię transakcji, ale uniemożliwiłoby dokonywanie zakupów czy przelewanie pieniędzy. Rzecznik Chase zaapelował do klientów, aby nigdy nie udostępniali swoich danych logowania nikomu, w tym usługom AI.

Dyrektor finansowy JPMorgan, Jeremy Barnum, poinformował, że bank blokuje zewnętrzne agenty uzyskujące dostęp do kont poprzez współdzielone dane uwierzytelniające, gdy tylko uda się je zidentyfikować. Dyrektor generalny Charles Schwab, Rick Wurster, powiedział w Bloomberg Television, że firma blokuje dziesiątki takich prób tygodniowo. Wymienił Muse, asystenta od Meta, jako jednego z agentów działających w imieniu klientów i argumentował, że ani firma, ani klient nie są w stanie odpowiednio monitorować zachowania takich narzędzi. Na początku października dyrektor generalny JPMorgan, Jamie Dimon, przekazał, że bank podejmuje kroki, aby uniemożliwić agentom AI autonomiczne działanie wewnątrz swoich systemów.

Odpowiedzialność i debata regulacyjna

Zgodnie z amerykańskimi przepisami, takimi jak Electronic Fund Transfer Act, klient, który dobrowolnie przekazuje dane logowania systemowi AI, może pozbawić bank obowiązku zwrotu poniesionych strat, ponieważ transakcja nie jest traktowana jako oszustwo osób trzecich. Przedstawiciel branży określił sytuację jako alarmującą i stwierdził, że sektor jest głęboko zaniepokojony możliwością uzyskania przez agenty dostępu do kont i przeprowadzania operacji wpływających na finanse klientów. Kierownictwo banków szuka rozwiązania pośredniego, unikając całkowitego zakazu, biorąc pod uwagę tempo, w jakim rozprzestrzenia się korzystanie z agentów.

Axios podał, że raport wywołał wezwania do regulacji w całym spektrum politycznym, w tym ze strony senatora Berniego Sandersa, gubernatora Florydy Rona DeSantisa oraz senatora Marka Warnera. Były szef ds. AI w Białym Domu, David Sacks, stwierdził, że banki powinny wspierać agenty sterowane przez użytkowników, które pozwalają ludziom „przyznawać, ograniczać i cofać dostęp”, z dostępem tylko do odczytu jako „krokiem przejściowym”. Argumentował, że traktowanie aktywności agentów autoryzowanych przez użytkowników jako cyberataków jest nieodpowiedzialne.

Kontekst i otwarte pytania

Axios oddziela tę kwestię od letniego ataku na startup Hugging Face, w którym rój agentów AI zhakował platformę. Obawy banków koncentrują się na danych uwierzytelniających dostarczonych przez klientów, a nie na zaawansowanych systemach AI, choć duże banki brały udział we wczesnych testach modelu Mythos firmy Anthropic. Raport pojawił się w momencie, gdy obawy o cyberbezpieczeństwo już rosły, po tym jak badacze odkryli poważne luki w języku programowania używanym do obsługi milionów stron internetowych. Do tej pory instytucje opisywały swoje blokady jako prewencyjne i nie zgłoszono żadnej zakończonej niechcianej transakcji wykonanej przez agenta.