U klasického zneužití intimních fotografií pachatel získá skutečný materiál, který následně zveřejní nebo jím oběť vydírá. Generativní umělá inteligence tuto hranici posouvá. Dokáže vytvořit sexuálně explicitní obsah, který nikdy nevznikl, ale využívá podobu konkrétního člověka.
Útočníkovi může posloužit profilová fotografie, snímek z dovolené nebo portrét převzatý z veřejného webu. Ohroženi proto nejsou pouze lidé, kteří někomu poslali intimní obsah. Terčem se může stát prakticky kdokoliv, jehož fotografie je dostupná na internetu.
„Už nyní se setkáváme s případy, kdy někdo zneužije běžnou fotografii a pomocí generativní umělé inteligence vytvoří pornografický obsah. Pro oběť přitom není podstatné, že je snímek falešný. Jakmile se začne šířit mezi spolužáky, kolegy nebo známými, může mít velmi reálné dopady na její psychiku, vztahy i pověst,“ říká Eliška Poledníčková z organizace Konsent, která se zabývá prevencí sexuálního násilí a obtěžování a zasazuje se o změnu přístupu k sexu a vztahům.
Obsah je falešný, způsobená újma však skutečná
Sexuální deepfake může sloužit jako prostředek pomsty po rozchodu, šikany mezi spolužáky, nátlaku na kolegyni nebo snahy poškodit veřejně známého člověka. Pachatel může hrozit zveřejněním materiálu, požadovat peníze, další fotografie nebo osobní schůzku. Někdy obsah zveřejní bez předchozího kontaktu pouze s cílem oběť ponížit.
Rychlost sociálních sítí navíc způsobuje, že se falešný snímek během krátké doby dostane mimo původní skupinu. Ani jeho následné odstranění z jednoho profilu proto nemusí znamenat konec problému. Kopie mohou zůstávat v soukromých konverzacích, uzavřených skupinách nebo v dalších zařízeních.
Zveřejněné fotografie nelze zcela ochránit
Úplnou prevenci nelze přenést na potenciální oběť. Ani omezení viditelnosti profilu nezaručí, že fotografii nezíská někdo z okruhu sledujících, spolužáků nebo kolegů. Požadavek, aby lidé přestali zveřejňovat vlastní podobu, by navíc nespravedlivě přesouval odpovědnost z pachatele na člověka, jehož identita byla zneužita.
Smysl však má zkontrolovat nastavení soukromí, omezit veřejnou dostupnost fotografií ve vysokém rozlišení a zvážit, komu jsou určena alba s dětmi. Rodiče by měli s dospívajícími otevřeně mluvit také o tom, že vytvoření falešného intimního snímku spolužačky nebo spolužáka není nevinný vtip ani běžná práce s fotografií.
„Technologie se vyvíjejí rychleji než schopnost společnosti reagovat. Vedle právní ochrany proto potřebujeme především prevenci a vzdělávání. Mladí lidé musí vědět, že vytvoření nebo přeposílání falešného intimního obsahu představuje závažný zásah do bezpečí a důstojnosti konkrétního člověka,“ upozorňuje Eliška Poledníčková z Konsent.
První krok: uložit důkazy, nikoliv samotný problém skrývat
Pokud člověk zjistí, že někdo vytvořil nebo šíří falešný intimní materiál s jeho podobou, měl by nejprve zachovat dostupné důkazy. Pomoci mohou snímky obrazovky, odkazy na konkrétní příspěvky, názvy profilů, datum zveřejnění i záznam komunikace s pachatelem. Následně je vhodné požádat provozovatele platformy o odstranění obsahu a podle závažnosti situace vyhledat právní pomoc nebo se obrátit na policii.
Od 1. ledna 2026 český trestní zákoník obsahuje trestný čin zneužití identity k výrobě pornografie a jejímu šíření. Konkrétní právní posouzení však vždy závisí na okolnostech případu. Evropský AI Act vedle toho zavádí povinnost označovat deepfake obsah jako uměle vytvořený nebo zmanipulovaný, nejde však o univerzální nástroj, který by sám o sobě zabránil jeho zneužívání.
VIDEO: Umělá inteligence je takový marketingový pojem a zní to trošku zlověstně, říká programátor Daniel Steigerwald
Zdroj: autorský text, Konsent