Kontroverzní softwarová společnost Palantir, která se zaměřuje na umělou inteligenci (AI), vstupuje na litevský trh. Tamní armáda zvažuje pořízení její technologie, která se již využívá v bojových operacích. Zapojení algoritmů do vojenského rozhodování však přináší řadu rizik.
Autonomní zbraňové systémy využívající umělou inteligenci, které by dokázaly samostatně rozhodovat o zabíjení lidí podobně jako ve sci-fi filmech, jsou zatím věcí budoucnosti, pokud je vůbec možné je vyvinout. Algoritmy se však již v bojových operacích využívají k výběru cílů. Shromažďují a vyhodnocují data, na jejichž základě předkládají velitelům možnosti, kde a na jaké cíle zaútočit.
Systém tak již pomáhá při rozhodování o životě a smrti, potvrdil Peter Andrysiak, americký generál ve výslužbě a bývalý náčelník štábu Evropského velitelství ozbrojených sil USA (EUCOM). V současnosti působí jako seniorní poradce společnosti Palantir.
Využití algoritmů ke shromažďování a zpracování dat urychluje časově náročné úkoly, jako je vyhodnocování záběrů z dronů či analýza zpravodajských informací. Uvedli to zástupci společnosti Palantir v rozhovorech pro server LRT.lt na okraj konference Defending Baltics, která se minulý měsíc konala ve Vilniusu.
„Kdybyste věděli, jak vypadá každodenní práce na vojenském velitelství, pochopili byste, že většinu času tam lidé netráví přemýšlením,“ uvedl Andrysiak. Do společnosti Palantir nastoupil po odchodu z armády, kde se podílel na zavádění jejích technologií do amerických ozbrojených sil.
Jak funguje vojenský systém Palantiru?
Během doprovodné akce konference Defending Baltics představili zástupci společnosti Palantir fungování jednoho ze svých hlavních vojenských softwarových systémů Maven Smart System (MSS). Ačkoli měla prezentace ukázat využití umělé inteligence v bojových operacích, z předvedených záběrů nebylo její zapojení do fungování systému téměř vůbec patrné.
Teprve na dotazy z publika zástupci společnosti Palantir vysvětlili, jak lze umělou inteligenci v tomto softwaru využít. Praktickou ukázku však nepředvedli.
„Umělá inteligence dokáže analyzovat data ze senzorů a vyhledávat konkrétní cíle, což by jinak pro personál představovalo značnou kognitivní zátěž. Systém může například oznámit: ‚Našel jsem hledaný cíl. Zde jsou možnosti, jak proti němu zasáhnout, včetně dostupných zbraňových systémů‘,“ vysvětlil Andrysiak. Zdůraznil však, že systém na cíle automaticky neútočí.
Společnost nyní zavádí modely takzvané agentní umělé inteligence (agentic AI), které mohou přebírat úkoly dosud vykonávané pracovníky vojenských velitelství. Podle Andrysiaka se tyto systémy již využívají ve Spojených státech.
„Vím, že také NATO, které zakoupilo systém Maven Smart System, se dostává do fáze, kdy může vytvářet vlastní agenty umělé inteligence a pověřovat je plněním různých úkolů,“ dodal Andrysiak.
Součástí platformy je také velký jazykový model (LLM), který umožňuje uživatelům pokládat otázky podobně jako u běžně dostupných nástrojů umělé inteligence. Na rozdíl od nich je však určen pro vojenské účely.
„Systém umožňuje vyhledávat informace pomocí běžných dotazů, podobně jako na počítači. Pracuje přitom s daty uloženými přímo na dané platformě,“ vysvětlil Andrysiak.
Riziko kognitivní kapitulace
Právě využívání umělé inteligence při výběru vojenských cílů vyvolává mezi výzkumníky a lidskoprávními aktivisty největší obavy. Upozorňují především na riziko takzvané kognitivní kapitulace, kdy lidé začnou nekriticky přijímat výstupy algoritmů jako pravdivé, aniž by je sami ověřovali. „Rizika rozhodně existují,“ připustil Andrysiak a zdůraznil nutnost zachování lidského dohledu.
Podle analytiků a aktivistů prosazujících bezpečné využívání umělé inteligence však může být lidský dohled účinný pouze tehdy, pokud si lidé zachovají nad systémem skutečnou kontrolu a budou mít dostatek času i potřebné schopnosti k ověřování a vyhodnocování dat poskytovaných algoritmy.
Na rizika upozornily již dřívější případy. Investigativní šetření zaměřené na využívání umělé inteligence izraelskou armádou při výběru cílů v Pásmu Gazy poukázalo na nepřiměřeně vysoké civilní ztráty.
Informátoři z řad izraelských bezpečnostních složek novinářům popsali, že jim systém předkládal návrhy cílů, aniž by věděli, na základě čeho je vybral a jaké důsledky by případné útoky mohly mít. Údaje si podle svých slov nemohli ověřit kvůli nedostatku času nebo tlaku na rychlé rozhodování.
Izraelská armáda (IDF) tato obvinění odmítla. Zdůraznila, že informační systémy slouží pouze jako nástroje pomáhající analytikům při identifikaci cílů a že jejich výstupy musí být nezávisle ověřovány.
V souvislosti s americko-izraelskou válkou proti Íránu je vyšetřován také únorový útok na dívčí školu v Íránu, při němž zahynulo velké množství dětí. Podle serveru LRT.lt měl systém využívající technologie společnosti Palantir školu chybně označit za vojenský cíl.
Richard Evans, zástupce společnosti Palantir odpovědný za oblast občanských svobod, odmítl během akce ve Vilniusu odpovědět na dotaz týkající se incidentu. Odkázal přitom na probíhající vyšetřování.
Evans zdůraznil, že algoritmická analýza dat v tomto softwaru nadále podléhá lidskému dohledu a kontrole. „Představa, že umělá inteligence sama vyhledává cíle a provádí na ně útoky, neodpovídá realitě,“ uvedl. „Výběr cílů je v zásadě proces řízený lidmi, který podléhá pravidlům a kontrole.“
AI však podle něj může některá rozhodnutí přijímat samostatně. Systém by například mohl bez přímého pokynu člověka rozhodnout o vyslání dronu, aby „shromáždil další data“.
Litva zvažuje nákup technologií Palantiru
Koncem října litevský ministr obrany Robertas Kaunas oznámil, že tamní armáda zvažuje nákup technologií společnosti Palantir. „O této možnosti se uvažuje a budou následovat další jednání. Potřebujeme totiž technologické řešení, které by umožnilo propojit velké množství dat, jež máme k dispozici,“ uvedl ministr ve středu pro zpravodajství televize TV3 Žinios.
Podle litevské televize TV3 by technologie společnosti Palantir mohly Litvu během sedmi let stát přibližně 200 milionů eur (zhruba 4,9 miliardy korun). Pro srovnání, litevský rozpočet na obranu v roce 2026 činil 4,7 miliardy eur (zhruba 115 miliard korun).
„AI by například mohla sloužit k analýze dat a řízení některých aspektů bojových operací. Litva proto stejně jako ostatní členské státy NATO tento typ softwaru potřebuje,“ uvedl ministr obrany Kaunas.
V rozhovoru pro agenturu Baltic News Service (BNS), zveřejněném 4. listopadu, ministr rovněž zdůraznil, že technologie Palantiru by mohly usnadnit zpracování dat. „To může dělat voják nebo jiný člověk, ale zvládne to i umělá inteligence, která dokáže poskytovat doporučení,“ vysvětlil.
Litevské ministerstvo obrany v písemné odpovědi pro server LRT.lt sdělilo, že se společností Palantir Technologies podepsalo 25. dubna 2023 memorandum o porozumění. Resort také uspořádal konzultaci s potenciálními dodavateli ohledně vývoje centralizované platformy pro správu dat. Jako jediná v jejím rámci předložila návrh společnost Palantir Technologies.
„Ministerstvo v současnosti nemá se společností Palantir Technologies uzavřenou žádnou smlouvu. Využívání jejích konkrétních produktů či systémů litevskými ozbrojenými silami i rozsah případných zakázek proto budou záviset na dalším posouzení a následných rozhodnutích,“ uvedl resort.
Německo a Francie mezitím vyvíjejí vlastní systémy umělé inteligence s cílem snížit závislost Evropy na amerických technologiích. „NATO přechází na systém společnosti Palantir. Nepřipojilo se k němu pouze několik velkých zemí, které uvažují o vývoji vlastních národních platforem. My jsme o využití technologií Palantiru zatím definitivně nerozhodli,“ řekl 29. října novinářům litevský prezident Gitanas Nauseda.
Článek napsal Benas Gerdžiūnas, LRT.lt (LRT_EN), poprvé byl publikován 13. listopadu 2026 08:19 (SEČ).
Tento článek byl přeložen za pomoci umělé inteligence.