Na TikToku a Instagramu se ve velkém šíří videa vytvořená umělou inteligencí (AI), která pokřiveným způsobem ukazují dramatické hubnutí. Výzkumníci varují, že mladým ženám a dospívajícím dívkám tyto klipy předkládají nedosažitelné a nerealistické ideály.
Německá mezinárodní stanice Deutsche Welle odhalila v srpnu více než desítku účtů na TikToku, které šířily videa vytvořená umělou inteligencí. Ta zachycovala ženy „před a po“ údajně drastickém zhubnutí a propagovala fitness aplikaci založenou na 75denní výzvě. Podle DW prozrazovaly falešný původ záběrů nepřirozené pohyby rukou a opakující se totožné pózy.
Polská státní tisková agentura PAP našla podobný obsah také na Instagramu. Jeden z příspěvků vytvořených AI zaznamenal 7,4 milionu zhlédnutí. Žádný z těchto příspěvků přitom nebyl označen jako uměle vytvořený.
Polský výzkumný institut NASK, který se zabývá dezinformacemi, uvedl, že stejný trend zaznamenal také v Polsku. Taková videa jsou podle něj často využívána k prodeji přípravků na hubnutí, o nichž jejich prodejci nepravdivě tvrdí, že jsou stejně účinné jako léky na předpis typu Ozempic či Mounjaro.
„Jde o dvojí manipulaci – smyšlená proměna je využívána jako ‚důkaz‘ a zároveň je neověřený doplněk neoprávněně srovnáván s léky na předpis, jejichž klinické účinky jsou doložené,“ popsala Ewelina Bartuziová-Trokielewiczová, která v institutu NASK vede oddělení audiovizuální a biometrické analýzy.
Podle ní videa využívají dobře zdokumentovaný psychologický efekt – podobně jako retušované fotografie zkreslují vnímání vlastního těla. Nyní je však tento proces automatizovaný a probíhá v masovém měřítku. „Diváci porovnávají své skutečné pokroky s fiktivním měřítkem,“ uvedla expertka s tím, že zobrazovaných proměn často nelze v uváděném čase dosáhnout. Dodala, že terčem jsou zejména mladé, dospívající dívky a ženy po porodu.
Bartuziová-Trokielewiczová kromě psychické újmy upozornila také na problém ochrany spotřebitelů, kdy falešná videa „před a po“ mají přimět lidi k nákupu tréninkových plánů nebo předplatného aplikací s neověřenou hodnotou – aniž by bylo uvedeno, že jde o reklamu.
Některá videa podle ní využívají odcizené záběry skutečných fitness tvůrců, jejichž obličeje byly digitálně nahrazeny. Také oni se proto stávají oběťmi.
Deutsche Welle informovalo, že u několika falešných videí dohledalo původní záběry skutečných tvůrců. Květnové vyšetřování BBC odhalilo podobný systém, v němž profily fiktivních fitness osobností vytvořených umělou inteligencí propagovaly zavádějící tvrzení o tělesných proměnách.
Expertka institutu NASK na umělou inteligenci Alicja Martinková doplnila, že manipulace často přesahuje samotnou obrazovou stránku. Jako příklad zmínila reklamu s doprovodnou písní vytvořenou umělou inteligencí, která byla plná gramatických chyb a popisovala údajné výsledky tréninkového plánu.
„I když vizuální část působí atraktivně a natolik přesvědčivě, že si člověk aplikaci nebo tréninkový plán koupí, doprovodná píseň plná podobných chyb může naznačovat, že reklama není skutečná,“ podotkla.
TikTok nahlášená videa přezkoumal
Polská pobočka TikToku v reakci uvedla, že nahlášená videa přezkoumala, odstranila je s odkazem na porušení pravidel komunity a zablokovala hashtag spojený s danou fitness aplikací. Společnost Meta pak sdělila, že účty zveřejňující podobný obsah musely ověřit svou pravost. Zároveň tento obsah omezila na uživatele starší 18 let a přestala ho doporučovat. Upozornila však, že její pravidla nadále povolují obsah týkající se hmotnosti, pokud neobsahuje negativní výroky o fyzickém vzhledu.
Bartuziová-Trokielewiczová z institutu NASK přiznala, že rozpoznat jednotlivé falešné video může být obtížné. Varovnými signály jsou však totožné pózy, úhly kamery či prostředí opakující se na více účtech; rozdíly mezi záběry „před“ a „po“, které se netýkají pouze postavy – například změny rysů obličeje nebo výšky; a účty tvořené výhradně propagačním obsahem.
Mezi běžné nedostatky obsahu vytvořeného umělou inteligencí podle ní patří také nepřirozeně hladká pleť bez pórů a deformace rukou, zubů, vlasů či oblečení nebo nesrovnalosti v osvětlení.
Článek od Polski Radio, poprvé byl publikován 3. srpna v 16:30 (SELČ).
Tento článek byl přeložen za pomoci umělé inteligence.