Problém se podle amerického serveru Axios týká mimo jiné velkých amerických bank Morgan Stanley, Bank of America, JPMorgan a Wells Fargo. Podle serveru, který se odvolává na zdroje obeznámené se situací, některé z nich už zaznamenaly neoprávněný přístup externích agentů umělé inteligence.
Nemusí přitom nutně jít o hackerský útok. V některých případech klienti sami umožní AI asistentům přístup ke svým účtům a předají jim přihlašovací údaje.
Zásadním problémem ale může být i nespolehlivost samotných agentů. Mohou například špatně pochopit pokyn, provést nechtěnou operaci nebo reagovat na zavádějící obsah, se kterým se setkají na internetu.
Někteří agenti pak podle zdrojů podnikají kroky, které zřejmě přesahují pokyny uživatelů. Banky se obávají zejména situací, kdy má AI možnost nakupovat nebo převádět peníze mezi účty. Bankovní manažeři situaci označili za „děsivou“, píše Axios.
„Nechcete, aby se agenti vymkli kontrole“
Některé finanční instituce už přistoupily k omezení externích nástrojů. Morgan Stanley začala blokovat AI agenty, kteří se pokoušejí přistupovat k jejím platformám. Podobná opatření zavedly také JPMorgan, Bank of America a Citigroup. Mluvčí banky Chase vyzval zákazníky, aby nikomu nesdělovali svá uživatelská jména a hesla.
Jamie Dimon, šéf JPMorgan už dříve varoval, že banka nedovolí libovolným externím agentům přístup k účtům klientů. „Nechcete, aby se agenti vymkli kontrole. A mohly by jich být tisíce,“ uvedl pro magazín Fortune.
Banky přitom stojí před nelehkým problémem. Nechtějí využívání umělé inteligence zcela znemožnit. Některé už umožňují nebo připravují omezený přístup, který agentům dovolí číst finanční údaje, nikoli však samostatně provádět transakce.
Podle zdrojů Axios si ovšem bankéři zároveň uvědomují, že je nutné najít kompromis. Protože zákazníci budou chtít nástroje umělé inteligence v budoucnu stále více využívat.
Banky mají mimo jiné problém i s tím, jak rozpoznat, zda agent jedná na základě pokynů zákazníka, nebo se od nich odchýlil. Zatím mají problémy spolehlivě rozlišit agenty a určit, zda mají k účtu oprávněný přístup a zda má právo například přesouvat peníze. Podle serveru se tak rozvoj této technologie stává pro banky „noční můrou“.
A zaplatí to kdo?
Nejasná zůstává také odpovědnost za případné škody. Pokud AI provede nechtěný převod nebo jinou operaci, může vzniknout spor o to, zda má ztrátu nést klient, banka, nebo provozovatel nástroje.
Například šéf Bank of America, Brian Moynihan, uvedl, že banka připravuje pravidla, která určí odpovědnost za platby autorizované umělou inteligencí. Zároveň prosazuje, aby odchozí platby z účtu vždy schvaloval člověk.
Motivace je i jinde
Banky však mají i další motivaci, proč chtějí přístup AI agentů kontrolovat. Nechtějí přicházet o vklady klientů, kteří by díky těmto nástrojům mohli například snadno vyhledávat lépe úročené účty u konkurence a automaticky na ně přesouvat volné peníze, upozornil britský deník Financial Times.
Pro banky by tak rozšíření AI agentů neznamenalo pouze bezpečnostní problém, ale také hrozbu ztráty části vkladů, které využívají k financování svých aktivit.
Na rizika spojená s umělou inteligencí reagují také finanční regulátoři v USA a Evropě. Zvláštní pozornost jim věnuje i Evropská centrální banka (ECB), která stanovila 110 bankám, nad nimiž vykonává přímý dohled, aby předložily plány na posílení ochrany před kybernetickými útoky využívajícími pokročilou AI.
ECB mimo jiné požaduje rychlejší odhalování a odstraňování zranitelností, důkladnější kontrolu externích technologických dodavatelů a spolehlivé záložní systémy, psala agentura Reuters. Opatření se však týkají širší odolnosti bank vůči hrozbám spojeným s AI, nikoli pouze přístupu autonomních agentů k účtům klientů.