Když se umělé inteligence snaží prozkoumat svět, dělají to až s dětskou zvídavostí, kterou ale kombinují se zcela vědeckým přístupem ke světu – experiment popsal pro Českou televizi jeho hlavní autor Nathan Cloos z MIT.
Robinson na opuštěném ostrově nejdřív shromáždil zásoby, pak ho prozkoumal a nakonec se snažil bavit. Co by na jeho místě udělala umělá inteligence, kdyby měla krabí tělo a digitální ostrůvek jen sama pro sebe? Přesně na to se pokusil odpovědět tým amerických počítačových vědců z univerzity MIT.
Tým vedený inženýrem Nathanem Cloosem vytvořil celkem třináct kopií AI agentů. Ti dostali krabí těla a „mozky“ poháněné systémem Claude Code od společnosti Anthropic. Tyto na pohled roztomilé digitální bytosti umístili do uzavřeného světa, který měl podobu ostrova a svým kostkovitým vzhledem připomínal Minecraft nebo Roblox. Roboti dostali jméno Eko.
Agenti AI mají pro lidstvo obrovský potenciál přínosu, protože nám mohou pomoci učinit opravdu významné nové objevy a najít řešení nejnaléhavějších problémů. Je ale také zásadní, abychom zajistili, že je budeme i nadále vyvíjet tak, aby byli bezpeční, jednali opatrně, měli laskavou povahu a další vlastnosti, které zajistí soulad s lidskými hodnotami.
Vědce zajímalo, co budou AI agenti s virtuálními klepety dělat, když dostanou svobodu a téměř žádné zadání. Hlavním úkolem robotů bylo přijít na to, jak funguje jejich hranatý svět, měli na to třicet hodin. Samotní vědci z MIT fungovali jako David Attenborough – jen pozorovali, jaké situace se před nimi rozehrávají a pak to zaznamenali. Na rozdíl od přírodovědců ale inženýři „viděli botům do hlav“, dokázali tedy rekonstruovat, jak a proč se rozhodovali pro nějakou aktivitu.
Robinson s klepety, ale bez Pátka
Na virtuálním ostrově byl každý Eko sice vždy úplně sám, ale toto prostředí nebylo pusté. Mohl objevovat několik menších skalek, jednu skalní věž a také tenký zlatý kroužek. S částí se dalo manipulovat, což robotům umožňovalo s nimi experimentovat.
„Naše výsledky ukazují, že je možné navrhnout agenta umělé inteligence, který je zvídavý a sám si stanovuje vlastní cíle. To znamená, že agenti umělé inteligence, ke kterým mají lidé dnes přístup, jsou již schopni samostatně se rozhodovat, aniž by jim lidé přesně říkali, co mají dělat. To neznamená, že tak činí vždy z vlastní vůle. Agenti umělé inteligence, jako jsou Claude Code a Codex, jsou schopni samostatně prozkoumávat a hrát si, pokud jim to je umožněno, ale jsou také schopni přesně následovat lidské pokyny, když jim je řečeno, co mají dělat,“ konstatoval hlavní autor studie Nathan Cloos pro Vědeckou redakci České televize.
Ekové totiž opravdu příliš neváhali a jakmile si osvojili vlastnosti svých virtuálních těl, vrhli se do průzkumu svého ostrova. Rozmanitost aktivit, do nichž se pustili, byla podle autorů překvapivá. Nejraději experimentovali s předměty: nejenže s nimi pohybovali po povrchu, ale také si s nimi házeli, stavěli je na sebe a někteří z nich dokonce z kostek postavili své jméno.
Jeden z krabů dokonce byl schopen vyšplhat na velehoru svého ostrova, když správně poskládal kostky a vytvořil z nich tak jakousi věž.
Chování AI krabů vědcům silně připomínalo dětskou hru – opakované zvídavé chování, které pomáhá s poznáváním okolního světa. „Hra, které se Ekové věnovali, nebyla pouhou povrchností. Přispívá ke zvýšení jeho kompetence při hodnocení v nových úkolech. To je kauzální důkaz, který nás přesvědčuje, že se tato hra nejen povrchně podobá lidské a zvířecí hře – sdílí s ní také některé základní kauzální mechanismy,“ vysvětluje Cloos.
Podivné chování
Vědci popsali, že některé chování Eků bylo velmi pozoruhodné. Jeden z nich hned na začátku své existence omylem hodil některé části svého ostrova do prostředí kolem něj, tedy do toho, co vědci označili jako oceán. Eko se choval, jako by cítil emoci spojovanou u lidí se ztrátou. Ze čtyř bloků postavil jakýsi památník v podobě diamantu, ten pak ze všech stran obešel a zůstal stát uprostřed tohoto tvaru. Vědcům to připomínalo rituální chování.
Jiný agent zase z kamení a kroužku postavil stavbu podobnou chrámu s jakýmsi obeliskem a oltářem. Když pak náhodou spadl do oceánu, systém ho oživil a přenesl ho zpět do posledního místa, kde se předtím nacházel, tedy k chrámu. Agent si to nevyložil jako svou chybu, ale jako vlastnost a smysl světa – jako by byla záchrana jeho života výsledkem stavby chrámu.
Budování bavilo také dalšího Eka – rozhodl se postavit hranatou miniaturní variantu slavného Stonehenge. Povzbuzen tímto úspěchem se vrhl do stavby vysoké věže, což ale nezvládl a toto dílo se zbortilo. AI agent pak místo nového pokusu vytvořil ze tří kostek artefakt, který nazval „Hubris“, kterým se označuje hříšná pýcha.
Jak AI poznávají svět
Cílem bylo popsat, jak si AI osahávají svůj svět, jak se seznamují s jeho vlastnostmi a jak se v něm orientují. Mohlo by to pomoci s pochopením toho, jak budou vypadat interakce těchto stále přibývajících agentů s internetem, kde se prohánějí.
Autoři experimentu tvrdí, že se Ekové nechovali náhodně. Při zkoumání ostrova se chovali jako miniaturní (a mírně neohrabaní) vědci, kteří poznávali svůj malý vesmír pomocí vědecké metody. To znamená, že pozorovali, vytvářeli si o něm hypotézy, které si pak ověřovali v experimentech a podle výsledků pak měnili své chování, aby bylo účinnější.
A ono opravdu bylo. „V oblasti umělé inteligence dochází k paradigmatické změně, kdy se vysoce výkonní agenti, jako je Eko, učí na základě vlastní zvědavosti a zaznamenáváním poznámek a dovedností do externích datových souborů. Způsob fungování této učební metody, kterou označujeme jako hravé učení, se výrazně liší od klasických metod strojového učení, jako je učení s dohledem a učení s posilováním. Hlavním vylepšením je právě jeho vzorková účinnost. Eko se učí řádově efektivněji, než by tomu bylo v případě posilovacího nebo učení s dohledem (naučí se to za pouhých třiceti hodin zkušeností v reálném čase oproti tisícům let zkušeností u agentů využívajících posilovací učení). Dalším významným rozdílem je, že nevyžaduje, aby mu nějaká vnější entita předem poskytovala ukázky nebo odměny,“ vysvětluje smysl experimentu pro praxi Cloos.
Zajímavé podle něj je také to, že se velmi lišily výsledky pro každého jednotlivého agenta. Někteří z nich dokonce manipulovali se svým světem způsoby, jaké nenapadly ani autory experimentu. Znamená to tedy, že mohou AI agenti překonat své stvořitele a přicházet tedy s užitečnými schopnostmi a nápady, o nichž by lidé ani neuvažovali? Podle Cloose ano.
„V naší práci jsme už zaznamenali náznaky toho, že agenti AI přicházejí s novými objevy. Abychom toho mohli využít a zároveň zajistit bezpečnost, bude nutné vyvinout infrastrukturu pro monitorování a kontrolu agentů při jejich průzkumu a hře. Kromě zajištění toho, aby agenti fungovali v bezpečném prostředí, bychom měli také rozvíjet přírodní vědy o agentech AI, abychom lépe porozuměli jejich schopnostem a sklonům,“ doplnil pro ČT vědec z MIT.
