Zástupci Evropského parlamentu a členských států EU se shodli na podobě zákazu aplikací umělé inteligence (AI) umožňujících vytváření sexualizovaných snímků a videí skutečných lidí bez jejich souhlasu. Zákaz bude platit od 2. prosince. EP to uvedl ve čtvrtek v tiskové zprávě. Europoslanci věc podpořili už na březnovém plenárním zasedání, kdy dali zelenou vyjednávání s členskými státy. Jde o součást balíčku na zjednodušení a zmírnění legislativy k AI navrženého Evropskou komisí.

Zakázáno bude například uvádět na unijní trh systémy AI za účelem vytváření podobného obsahu, případně uvádění takových systémů na unijní trh bez přiměřených bezpečnostních opatření, jež by vytváření takových materiálů zabránila.

EP a Rada EU, tedy země bloku, konkrétně zmiňují „materiál zobrazující sexuální zneužívání dětí nebo zobrazující intimní partie identifikovatelné osoby či ji zachycující při sexuálně explicitních činnostech bez jejího souhlasu“.

Zákaz svlékacích aplikací do návrhu z pozice jeho stínové zpravodajky ve výboru pro občanské svobody prosadila česká pirátská europoslankyně Markéta Gregorová z frakce Zelených.

„Tyto nástroje nemají v naší společnosti co dělat. Jsou vytvořené k tomu, aby digitálně svlékaly lidi bez jejich souhlasu, přičemž oběťmi jsou převážně ženy a dokonce i děti. Tohle není inovace, ale technologicky umožněné zneužívání,“ uvedla Gregorové.

Na 2. prosince má být také odložena dříve schválená povinnost opatřovat audiovizuální obsah vygenerovaný AI vodoznakem. Balíček odkládá i začátek uplatňování dalších částí takzvaného Aktu o AI. Pro vysoce rizikové systémy AI výslovně uvedené v nařízení budou povinnosti odložené na 2. prosince 2027. U systémů AI, na něž se vztahují sektorové právní předpisy EU o bezpečnosti a dozoru nad trhem, se potom zástupci europoslanců a států shodli na odkladu na 2. srpen 2028.

Europoslanci a zástupci členských zemí musí dohodu, předběžně dosažnou v noci na čtvrtek, ještě formálně potvrdit. Podle tiskové zprávy europarlamentu by se tak mělo stát před 2. srpnem letošního roku, od kdy mají začít platit některá ustanovení nové legislativy. Tu Evropská komise navrhla loni v listopadu.

Na problematiku v minulých měsících upozornil především skandál americké sociální sítě X miliardáře Elona Muska. Její uživatelé pomocí chatbota Grok bez souhlasu generovali a upravovali sexualizované fotografie skutečných žen a dětí. Situace, na niž nejprve upozornila média, vyústila v několik vyšetřování, jedno z nich vede britský úřad pro regulaci mediálního trhu Ofcom. Kromě programu Grok existují ovšem také specializované aplikace zaměřené přímo na generování podobného obsahu.

Zajímají vás další kvalitní články z Hospodářských novin? Výběr těch nejúspěšnějších posíláme každý všední den večer v našem newsletteru 7 v SEDM, který si můžete zdarma přihlásit.

Tento článek máteje zdarma. Když si předplatíte HN, budete moci číst všechny naše články nejen na vašem aktuálním připojení. Vaše předplatné brzy skončí. Předplaťte si HN a můžete i nadále číst všechny naše články. Nyní první 2 měsíce jen za 40 Kč.

  • Veškerý obsah HN.cz
  • Možnost kdykoliv zrušit
  • Odemykejte obsah pro přátele
  • Ukládejte si články na později
  • Všechny články v audioverzi + playlist
za 40 Kč nebo za 80 Kč
Navíc mobilní aplikace
a web bez reklam