Technologický pokrok a geopolitické napětí společně vedou k tomu, že stále více států mění své armády na alespoň částečně robotické. Experti OSN varují před riziky.
Na tiskové konferenci v sídle OSN v New Yorku vznesl tento týden ředitel Institutu OSN pro výzkum odzbrojení (UNIDIR) Robin Geiss klíčovou otázku: „Necháme stroje, aby zaměřovaly a zabíjely lidské bytosti?“ Je podle něj klíčové si ji klást právě teď, protože současný vývoj umělé inteligence v tomto odvětví stále více „směřuje k tomu, že vytlačí lidské rozhodování“.
OSN na tuto možnost upozorňuje už delší dobu – s pokrokem v technologiích se stává stále aktuálnější. Generální tajemník OSN proto opakovaně vyzývá představitele států, které s vyzbrojováním robotů experimentují, aby zajistili, že tuto „morální červenou čáru“ lidstvo nepřekročí.
Voják z masa, velitel z křemíku
Umělá inteligence přebírá ve vojenských záležitostech podle OSN stále více odpovědnosti. Není to už jenom analýza zpravodajských informací a identifikace cílů, ale vstoupila už také do konkrétních operací s drony. A státy už ji využívají také při koordinaci kybernetických útoků.
Geiss zdůraznil, že k této změně, kdy se armády stále více spoléhají na schopnosti AI, dochází na úkor lidského úsudku. A co je podle něj zásadní problém: existují totiž náznaky, že se to týká také oblasti jaderných zbraní.
Přechod na umělou inteligenci je logický. Tato změna dramaticky zrychluje tempo operací na bojišti, zkracuje dobu mezi identifikací a zásahem cílů a umožňuje ozbrojeným silám zasáhnout každý den bezprecedentní počet cílů mnohem přesněji než dříve. A to všechno s nižšími ztrátami lidských životů než v minulosti.
Na druhou stranu je mnoho z těchto vyvíjejících se systémů umělé inteligence „neprůhledných“. Tedy ani vědci přesně nevědí, jak dospívají k výsledkům svých rozhodnutí. Šéf UNIDIR varoval, že se kvůli tomu zvyšuje riziko chyb, nesprávných odhadů a tím i nechtěné eskalace konfliktů.
Další riziko spočívá v tom, že umělé inteligence jsou stále dostupnější a levnější. Navíc k jejich ovládání nejsou zapotřebí hluboké znalosti. „Vzhledem k tomu, že nástroje umělé inteligence jsou stále snadněji použitelné, bude snazší zapojovat se do stále sofistikovanějších vojenských operací i pro nestátní aktéry,“ varoval Geiss.
To znamená, že ke smrtícím schopnostem AI by se mohly dostat i teroristické skupiny, extremistická hnutí a další podobné skupiny. A z analýz velkých vývojářů umělých inteligencí vyplývá, že se o to některé takové skupiny už snaží. Například letos v září zveřejnila společnost Anthropic zprávu, podle níž se skupina v severním Jemenu ovládaném povstalci hútíi pokusila využít její umělou inteligenci Claude k vývoji pokročilých zbraní.
Tato teroristická buňka využila model Claude Code jako náhradu za softwarové inženýry, když se pokoušela vytvořit naváděcí, polohovací a řídicí systémy pro drony a rakety.
Svět není na správné koleji
Robin Geiss zdůraznil, že současný stav světa spíše dalšímu šíření těchto nebezpečných technologií nahrává. Geopolitická konkurence a napětí představují podle něj vážné překážky pro regulaci zapojení umělé inteligence do vojenského sektoru.
Dodal, že obavy z rizik AI kvůli tomu v současné době rostou.