„Dnes činíme další rozhodný krok směrem ke konkurenceschopnější EU. Tím, že poskytujeme větší právní jistotu a zajišťujeme jednotnější uplatňování pravidel pro umělou inteligenci v celé EU, vytváříme podmínky pro rozvoj inovací a hospodářského růstu na jednotném trhu,“ uvedla Marilena Raounová, náměstkyně kyperského ministra pro evropské záležitosti, jejíž země nyní EU předsedá.
Tím, že Evropská unie zakazuje sexuální deepfakes vytvořené pomocí umělé inteligence, vysílá podle ní jasný signál, že „technologický pokrok musí jít vždy ruku v ruce s ochranou našich základních hodnot“.
Zákaz svlékacích aplikací bude platit od letošního 2. prosince. Zakázáno bude například uvádět na unijní trh systémy AI za účelem vytváření podobného obsahu, případně uvádění takových systémů na unijní trh bez přiměřených bezpečnostních opatření, jež by vytváření takových materiálů zabránila. Text konkrétně zmiňuje „materiál zobrazující sexuální zneužívání dětí nebo zobrazující intimní partie identifikovatelné osoby či takový, který ji zachycuje při sexuálně explicitních činnostech bez jejího souhlasu“.
Schválený návrh odkládá některé povinnosti firem vyplývající z takzvaného aktu o AI. Pro vysoce rizikové AI systémy výslovně uvedené v nařízení bude platit odklad na 2. prosince 2027. Pro systémy, na něž se vztahují unijní právní předpisy regulující konkrétní odvětví, budou povinnosti odložené až do 2. srpna 2028.
Balíček také zmírňuje ochranu osobních údajů. Firmy je budou moct zpracovávat, pokud je to „nezbytně nutné k odhalení a nápravě zkreslení“. Týká se to jak vysoce rizikových systémů AI, tak těch ostatních. Předpis také rozšiřuje výjimky z některých povinností pro malé a střední podniky.
Na problematiku sexualizovaného obsahu generovaného AI v minulých měsících upozornil především skandál americké sociální sítě X podnikatele Elona Muska. Její uživatelé pomocí chatbota Grok bez souhlasu generovali a upravovali sexualizované fotografie skutečných žen a dětí.
