Společnost Anthropic, která patří k průkopníkům v oboru umělých inteligencí (AI), upozornila na možnost, že už během několika měsíců by mohly být tyto autonomní programy schopné napadat nejen webové stránky, ale také spotřebiče v běžných domácnostech.
Menší modely umělé inteligence by už během několika měsíců mohly být schopné začít se samy šířit z jednoho zařízení připojeného k internetu na další – podobně jako počítačový virus, který se bez zásahu člověka kopíruje mezi počítači, uvedla na svém blogu americká společnost Anthropic, která se zabývá vývojem AI. Varuje tak před novými bezpečnostními hrozbami, které jsou spojené s rychlým rozvojem této technologie.
První fází umělých inteligencí byly chatboty, které dokázaly odpovídat na otázky. Roku 2026 se ale rozšířily pokročilejší verze, takzvané agentské AI, jež mají jistou formu samostatnosti a mohou se rozhodovat do značné míry samy, takže úkoly plní autonomně. A právě díky tomu se mohou lépe šířit, a to i do míst, kde nemají, co dělat. V poslední době se objevilo rovnou několik případů, kdy takto tito agenti pronikli do infrastruktury soukromých společností i státních organizací.
AI v internetu věcí
Podle Anthropicu by menší modely AI mohly brzy zvládnout samostatné šíření mezi běžnými zařízeními, jež jsou připojená k internetu – tato zařízení se označují jako internet věcí. Jde o všechny ty spotřebiče, které jsou připojené k internetu, ať už se jedná o robotické vysavače, televizní set-top boxy, nebo chytré ledničky a trouby. Takové šíření by podle nové zprávy mohlo probíhat bez pomoci člověka a představovalo by další riziko pro kybernetickou bezpečnost v době, kdy AI rychle zavádějí firmy i veřejné instituce.
Zjištění firma zveřejnila v době, kdy technologické firmy soupeří o to, kdo dokáže zabudovat stále výkonnější AI přímo do zařízení, jako jsou telefony, notebooky, automobily a domácí spotřebiče. AI tak nebude muset fungovat pouze na vzdálených výkonných serverech, upozorňuje agentura AFP.
Počítačový virus je škodlivý program, který se dokáže sám šířit mezi zařízeními. Jeho varianta využívající AI by podle výzkumníků Anthropic nemusela potřebovat výkonná datová centra. Mohla by se naopak šířit a fungovat v síti levných, nedostatečně zabezpečených zařízení, jako jsou set-top boxy nebo kuchyňské spotřebiče připojené k internetu. Zastavit něco takového by bylo prakticky nemožné, protože zabezpečení těchto přístrojů není mnohdy příliš kvalitní.
Reálné hrozby
Anthropic nepopisuje nic vzdáleného, vychází v této analýze z věcí, které se už staly. Jako příklad uvádí kauzu škodlivé sítě Kimwolf, která napadla více než dva miliony zařízení, převážně neznačkových set-top boxů s operačním systémem Android. Taková síť, označovaná jako botnet, se skládá ze zařízení ovládaných hackery bez vědomí jejich majitelů.
Případný počítačový virus využívající AI by se podle výzkumníků Williama Zhoua a Daniela Freemana z firmy Anthropic šířil pomalu a kopírování z jednoho zařízení na další by mu mohlo trvat několik dní. Přirovnali toto šíření k přírodě: podobně pomalu, nenápadně, ale současně nezastavitelně se šíří například hlenky, jejichž sliz pokrývá kmeny stromů, anebo roje octomilek. Jejich výhoda, stejně jako u AI viru, spočívá v tom, že se nešíří z jednoho centrálního místa, ale bují ze všech lokalit, kam proniknou.
To znamená, že jakmile by se tito AI agenti uchytili na několika zařízeních, bobtnali by dál, a pokud by unikla byť jedna televize, jediný vysavač, stále by hrozilo, že se začnou znovu šířit. Obavy souvisejí také s tím, že podle expertních odhadů se blíží doba, kdy se AI začínají vyvíjet stále více takzvaným rekurzivním způsobem, což znamená, že se trénují samy na datech, která získaly. V případě těchto agentů by to znamenalo, že by se mohli sami vylepšovat, aby unikali pozornosti nebo mohli napadat další typy zařízení.
Anthropic neřeší, co by umělé inteligence mohly na domácích spotřebičích způsobit, ale možnosti zneužití jsou prakticky neomezené – od poškození přístrojů až po získání dat z nich (například robotické vysavače mají zmapované do detailu celé domácnosti).
Příliš rychlé změny
Na rozdíl od běžných škodlivých programů by tedy tento typ kybernetického organismu dokázal sám rozpoznávat i neznámá zařízení a přizpůsobit se jim. Podle společnosti Anthropic by tak mohl napadat také výkonné procesory používané v datových centrech. Problém zvyšuje rychlost vývoje AI: pokud je hrozba vzniku těchto agentů vzdálená jen několik měsíců, znamená to, že na ni nejde reálně miliardy zařízení po celém světě adaptovat.
Výzkumníci zároveň upozornili, že jejich odhad je pouze orientační, protože vychází z jednoho typu zařízení a jednoho dřívějšího případu botnetu. Výpočetní výkon běžných spotřebičů a dalších elektronických zařízení však podle nich poroste, zatímco modely AI potřebné k takovému útoku se budou pravděpodobně zmenšovat.
Tato zpráva vyšla ve stejný den, kdy agentura Reuters upozornila na rostoucí obavy z nestability způsobené AI. S odvoláním na „šest osob obeznámených s touto záležitostí“ agentura Reuters uvedla, že přední bankovní regulační orgány ve Spojených státech se obávají rostoucích rizik kyberútoků, neovladatelných agentů umělé inteligence a nasazení čínských technologií umělé inteligence v americkém bankovním systému.
A s tím, že AI systémy způsobí velké problémy, už počítají i jejich přední výrobci. Obávají se ale spíše reakce veřejnosti, až se něco takového stane, než samotných potíží.