Ředitelé společností Anthropic, OpenAI a dalších firem zabývajících se umělou inteligencí (AI) v soukromí zvažují možné scénáře veřejné a politické vzpoury, k níž by mohlo dojít po katastrofické události spojené s AI – taková událost se někdy označuje jako AIpokalypsa. Očekávají rozsáhlou událost, pravděpodobně kybernetický útok znemožňující přístup k finančním službám, k připojení k internetu, nebo dokonce k dodávkám elektřiny a vody, napsal web Axios.
První případ závažné škody způsobené nebezpečnou AI ve skutečném světě by poštval již tak nedůvěřivou veřejnost proti této technologii a proti lídrům v odvětví, včetně šéfa Anthropicu Daria Amodeie či šéfa OpenAI Sama Altmana, píše Axios. Lidé by se podle scénářů mohli obrátit i proti americkému prezidentovi Donaldu Trumpovi kvůli jeho neochotě AI regulovat.
Firmy se tedy obávají spíše dopadu hněvu veřejnosti než samotných scénářů, v nichž by mohly lidem pokročilé AI uškodit. S tím už šéfové tohoto průmyslu vlastně počítají. „Domníváme se, že svět by měl přijmout, že ve prospěch této technologie a lidské vůle se stanou i nějaké špatné věci,“ uvedl nedávno Sam Altman v rozhovoru pro server Politico.
Ačkoliv plánování různých scénářů je v mnoha firmách i prostředích národní bezpečnosti běžné, rozdíl je nyní podle Axiosu v tom, že mnoho předních výzkumníků a lídrů v oblasti AI věří, že rozsáhlý incident je nevyhnutelný.
Lidé, kteří se zabývají vývojem umělé inteligence, jsou pevně přesvědčeni, že by nás mohla do konce tohoto desetiletí všechny zabít. Nejde o žádný marketingový trik. Mnoho vedoucích manažerů a přední vědci sice v médiích volí opatrná slova, aby působili rozumně – ale slyšel jsem, jak ti samí lidé v soukromí vyjadřují své obavy. Žádná jiná lidská činnost nepředstavuje takovou míru nebezpečí.
Řada odborníků z oboru umělé inteligence sdělila Axiosu, že podle nich dojde v příštích šesti až dvanácti měsících k významné události. Plánování se mimo jiné soustředí na vzdělávání členů stárnoucího amerického Kongresu, který nedrží krok s revolucí v oblasti AI, poznamenal web.
Jak by vypadala AIpokalypsa
Experti se nejčastěji obávají dvou hlavních cest, které by mohly vést ke katastrofě, kde by hrála hlavní roli umělá inteligence: že lidé využijí extrémně výkonnou AI jako nějakou formu zbraně, anebo že nad ní ztratí kontrolu.
V prvním scénáři by umělá inteligence mohla usnadnit výrobu biologických, chemických či jiných zbraní, které by se pak dostaly do rukou lidí, států nebo organizací, které by je mohly zneužít ve svém zájmu. Druhý počítá spíše s tím, že by systémy AI, jež se vymkly kontrole, mohly v nebývalém měřítku útočit na infrastrukturu a přitom se vyhýbat lidskému dohledu. Tato neovladatelná AI by teoreticky mohla vyvinout biologické nebo chemické zbraně pro zločince, spáchat masivní kybernetický útok, který ochromí infrastrukturu lidstva, nebo centralizovat moc způsobem, který by vedl ke zhroucení civilizace.
AI by také mohla způsobit rozsáhle společenské problémy, jako je masivní nezaměstnanost, pokles lidské inteligence nebo motivace cokoliv dělat, protože umělé systémy budou ve všem lepší než lidé.
Další obávanou cestou je takzvané rekurzivní sebezdokonalování, při kterém AI pomáhá vytvářet vylepšené verze sama sebe dříve, než ji lidé stačí pochopit. Pokud by tato teoretická umělá inteligence nebyla v souladu s lidskými cíli, mohla by omezit šance lidstva na její zvládnutí nebo monitorování dříve, než začne jednat proti lidem.
Altman řekl serveru Axios, že modely se vyvíjejí rychleji, než lidé dokážou předvídat: „Tyto modely získávají v mnoha svých schopnostech nadlidské vlastnosti a my se prostě plavíme neznámými vodami.“ V pondělí 12. října zveřejnila společnost Anthropic článek, v němž popisuje, že by se AI mohly začít množit „nezastavitelným způsobem“, kdy by se nekonečně kopírovaly po celém internetu. Podle Anthropicu je něco takového jen několik měsíců daleko.