Krátce po vypuknutí války s Íránem dostala americká armáda zpravodajskou informaci, že se na Blízkém východě pohybuje čínská loď převážející materiál pro vývoj jaderných zbraní.
Podle zdrojů CNN začaly ozbrojené síly v reakci na varování chystat operaci k zadržení plavidla. Ozbrojení vojáci se připravovali k nalodění a ve vzduchu už operovaly americké vojenské letouny.
Až krátce před zahájením akce začali američtí úředníci zprávu prověřovat podrobněji a zjistili, že stojí na chybném vyhodnocení. Vojenský analytik totiž při její přípravě použil umělou inteligenci, která informace o nákladu lodi nesprávně interpretovala, a její závěr pak vedl k planému poplachu.
Co loď ve skutečnosti vezla, se nepodařilo zjistit. Podle jednoho ze zdrojů byla ale zpráva zcela nepravdivá. „Málem rozpoutala válku,“ uvedl s tím, že jakýkoli zásah proti čínskému plavidlu mohl vyvolat přímý ozbrojený střet mezi oběma velmocemi.
Jak k chybě došlo?
Podle CNN zadal analytik do chatbotu dotaz týkající se zpravodajských informací o nákladu lodi. Nástroj umělé inteligence následně zkombinoval informace z otevřených zdrojů se zpravodajskými informacemi získanými odposlechem, které měla vláda k dispozici, a dospěl k chybnému závěru o povaze nákladu.
Analytik pak použil umělou inteligenci ještě jednou – tentokrát k vytvoření zpravodajské zprávy, kterou následně rozeslal dál.
Není přitom jasné, jaký chatbot analytik použil ani zda šlo o komerční nástroj, nebo systém vytvořený přímo pro americkou vládu. „Interní nástroje jsou většinou jen kopie komerčních systémů, které dostaly nový nátěr,“ uvedl zdroj americké televize.
Americká armáda dnes využívá umělou inteligenci téměř ve všech oblastech – od analýzy zpravodajských informací a výběru cílů pro údery až po správu rozpočtu, logistiku nebo řízení dodavatelských řetězců.
AI má dát americké armádě náskok. Může přinést nový problém
Podle Pentagonu si Spojené státy nemohou dovolit v oblasti AI zaostávat. Pokud by totiž technologický náskok získala Čína nebo jiný protivník, mohl by toho využít v potenciálním konfliktu.
Ministr obrany Pete Hegseth proto v lednu představil strategii pro zrychlení integrace AI (Artificial Intelligence Acceleration Strategy), jejímž cílem je využití těchto technologií v armádě výrazně posílit.
Zpravodajci však varují, že rychlé zavádění této nové a relativně málo prozkoumané technologie vytváří tlak na analytiky, aby informace zpracovávali a ověřovali rychleji, což zvyšuje riziko chyb.
Několik zdrojů CNN zároveň uvedlo, že mladší analytici jsou k těmto nástrojům důvěřivější a pracují s nimi bez dostatečného ověřování.
Takzvané „halucinování“ – tedy stav, kdy si umělá inteligence přesvědčivě vymýšlí neexistující fakta – přitom ve zpravodajských systémech není ojedinělé.
Zavádění je navíc decentralizované a neexistují jednotná pravidla ani postupy pro ověřování dat, která AI vygeneruje. Různé složky armády proto používají odlišné nástroje a standardy.