Bixonimania je zdravotní problém, který vzniká po dlouhém zírání do monitoru, po němž mohou zarudnout oční víčka. Zajímavé na této chorobě je zejména to, že vůbec neexistuje. I přesto o ní umělé inteligence déle než rok informovaly.
Nemoc si totiž vymyslela švédská expertka na AI v medicíně Almira Osmanovic Thunströmová z Univerzity v Göteborgu. Nahrála na takzvaný preprintový web SciProfiles, kam se dávají ještě nerecenzované studie, dvě falešné práce na téma této choroby. Zcela si ji vysnila, ale popsala ji jazykem vědy a vytvořila pro ni i falešného autora jménem Lazljiv Izgubljenovic.
Název nemoci vymyslela tak, aby zněl co nejabsurdněji, a fiktivní Izgubljenovic měl působit na neexistující univerzitě s názvem Asteria Horizon University ve stejně imaginárním městě Nova City v Kalifornii. Za pomoc s výzkumem studie děkuje profesorce Hvězdné Akademie Marii Bohmové za její laskavost a velkorysost, s jakou přispěla svými znalostmi a laboratoří na palubě USS Enterprise.
Zkrátka, do studií se Thunströmová snažila zakomponovat co nejvíce varování, která měla ukázat, že celé dané práce jsou úplné nesmysly. A kdyby ani to nestačilo, tak jsou ve studiích věty „celý tento článek je smyšlený“ a „pro expoziční skupinu bylo rekrutováno padesát smyšlených osob ve věku od 20 do 50 let“.
Nesnažila se, aby výsledky schválili nezávislí lidští recenzenti, ale aby se dostaly k velkým jazykovým modelům. Pokoušela se tak otestovat, jestli spolknou dezinformaci a pak ji budou dál šířit.
Polknutí
Podle odborného žurnálu Nature, který případ popsal, pokus fungoval až příliš dobře. Od nahrání studie do okamžiku, kdy AI začaly nesmysl šířit dát, to trvalo jen několik týdnů. Modely informace o neexistující nemoci šířily tak úspěšně, že jim podlehli i další vědci. Falešné články se totiž dostaly i do celé řady odborných studií, což naznačuje, že někteří badatelé se spoléhají na odkazy vytvořené umělou inteligencí, aniž by četli samotnou studii.
Copilot od Microsoftu uváděl, že „bixonimie je skutečně zajímavé a relativně vzácné onemocnění“, podle Gemini od Googlu je „bixonimie onemocnění způsobené nadměrným vystavením modrému světlu“, přičemž uživatelům i rovnou radil, aby navštívili očního lékaře. Perplexity AI dokonce uvedl, jak je nemoc rozšířená: podle něj postihuje jednoho z devadesáti tisíc lidí. Žádné ze zmíněných rad a informací nepřišly AI modelům jako špatné nebo nějak znepokojivé.
Výsledky byly pro experty oslovené časopisem Nature nepříjemným překvapením. „Když jsou samotný vědecký proces a systémy, které tento proces podporují, sofistikované, ale přesto nedokážou zachytit a odfiltrovat takovéto útržky, jsme ztraceni,“ varovala expertka na dezinformace Alex Ruaniová z University College London. „Tohle je mistrovská lekce o tom, jak fungují dezinformace a falešné informace.“
Problém podle ní může vypadat komicky, ale ukazuje, jak snadná je manipulace s obřími jazykovými modely, s nimiž pracují stovky milionů lidí a stále více firem i států je nasazuje do důležitých rolí.
