Amerykańskie banki i Amazon blokują agentów AI takich jak Muse firmy Meta

Coraz więcej amerykańskich banków blokuje agentów AI, którzy próbują logować się w imieniu klientów. Prezes Charles Schwab Rick Wurster powiedział 16 października w Bloomberg TV, że firma brokerska co tydzień blokuje dziesiątki prób uzyskania dostępu do pieniędzy klientów przez czołowych agentów AI. Co tydzień otrzymuje raport na ich temat. Jedynym agentem, którego wymienił z nazwy, był Muse, osobisty agent firmy Meta, który robi zakupy, wypełnia formularze i rezerwuje podróże.

Schwab i JPMorgan uniemożliwiają agentom przenoszenie pieniędzy

Schwab nie odcina całkowicie dostępu zewnętrznej AI. Zewnętrzne modele będą mogły sprawdzać salda i pobierać analizy za pośrednictwem własnych serwerów MCP firmy, ale nie będą mogły przenosić tam pieniędzy. We wszystkich pozostałych sprawach Schwab kieruje klientów do swojego wewnętrznego asystenta, Charley. Wurster powiedział, że powodem jest kwestia odpowiedzialności. „My nie możemy tego kontrolować, klient nie może tego kontrolować, coś może pójść nie tak i kto wtedy ponosi odpowiedzialność?” — powiedział.

Prezes JPMorgan Jamie Dimon wyznaczył tę samą granicę podczas telekonferencji dotyczącej wyników banku za trzeci kwartał, która odbyła się 13 października. „Nie pozwolimy, by dowolny zewnętrzny agent uzyskał dostęp do systemów firmy” — powiedział. „Nie chcemy niekontrolowanych agentów”. Rzecznik powiedział Fortune, że bank blokuje każdego agenta zewnętrznej firmy, który próbuje zalogować się przy użyciu danych dostępowych klienta do bankowości. Udostępnianie danych za pośrednictwem dostawców usług otwartej bankowości, za zgodą klienta, jest nadal dozwolone. Dimon ostrzegł również przed przeniesieniem odpowiedzialności, gdy klienci udzielają dostępu zewnętrznym agentom. „Jeśli ludzie z nich korzystają, powinni rozumieć ryzyko” — powiedział.

Amazon, Delta i Yelp też blokują agentów

17 października The Verge wymienił kolejne serwisy, które blokują agentów. Delta uniemożliwia im rezerwowanie lotów, a Yelp dopuszcza tylko agentów, których twórcy płacą za dostęp do jego danych. Amazon poinformował we wrześniu, że dalsze korzystanie z jego serwisu przez Muse narusza jego zasady. Użytkownicy zgłaszają, że Grok firmy xAI oraz Dots, nowi stale działający agenci OpenAI, również nie mogą uzyskać dostępu do Amazona. Meta twierdzi, że odrzucenie osobistego agenta oznacza odrzucenie stojącego za nim klienta, i zamiast tego nawiązała współpracę z Walmart, Best Buy i Sephora.

Zasady dla agentów w Europie

Muse nie jest jeszcze dostępny w Niemczech. Agenci tacy jak przeglądarka ChatGPT działająca w chmurze i Claude in Chrome działają w tym kraju i już podlegają określonym zasadom. Niemiecki sklep Amazona ma w regulaminie sekcję dotyczącą agentów, która obowiązuje za każdym razem, gdy użytkownik zezwala agentowi na dostęp do Amazona. Agent musi w każdym żądaniu podawać swoją nazwę i identyfikować się jako agent. Nie może naśladować pisania przez człowieka ani rozwiązywać testów CAPTCHA, a Amazon może ograniczać dostęp agentów według własnego uznania.

Bankowość internetowa wiąże się z większym ryzykiem. Standardowe warunki bankowości internetowej stosowane przez niemieckie banki spółdzielcze wymagają od klientów zachowania w tajemnicy kodu PIN i innych danych uwierzytelniających. Jedynymi wyjątkami są usługi inicjowania płatności i dostępu do informacji o rachunku, na których świadczenie udzielono zezwolenia na podstawie przepisów UE. Agent AI, któremu przekazujesz hasło, nie jest jedną z takich usług. Jeśli następnie dojdzie do nadużycia na rachunku, bank może uznać to za rażące niedbalstwo, a zgodnie z warunkami klient ponosi całą stratę.

Jak zachować kontrolę

Strona pomocy Anthropic dotycząca Claude in Chrome odradza używanie agenta do zarządzania rachunkami finansowymi lub inwestycjami, a handel akcjami jest zabroniony. „Claude prosi o zgodę przed uzyskaniem dostępu do serwisów finansowych” — czytamy na stronie. W trybie „Zatwierdzaj ręcznie” samodzielnie weryfikujesz każdy krok. Anthropic zaleca również osobny profil przeglądarki bez dostępu do kont zawierających wrażliwe dane. Ustawienia zatwierdzania w przeglądarce ChatGPT działającej w chmurze omówiliśmy w naszym raporcie o incydentach z udziałem agenta OpenAI. Nigdy nie przekazuj agentowi AI danych logowania do bankowości. We wcześniejszym przypadku odpowiednio spreparowany e-mail wystarczył, by przejąć kontrolę nad przeglądarkami AI.