Američtí vědci i kongresmani se obávají, že technologicky vysoce vyspělé nástroje využívající umělou inteligenci a takzvané mapování tváře se stanou nejnovější zbraní v informační válce proti USA a západním demokraciím, napsala agentura AP. Nové technologie, dostupné na internetu, umožňují šířit po světě videa s vyobrazením reálných lidí pronášejících výroky, které ve skutečnosti nikdy nezazněly.

Zatím se takové obrázky s politickým obsahem ve veřejném prostoru příliš neobjevují, ale podle expertů není otázkou zda, nýbrž kdy. Už loni se produkce takzvaných "deepfakes", tedy zvlášť lstivých podvodů, objevila na pornografických serverech nebo na komunitní síti Reddit. Pornoherci tam prezentují své výkony s tvářemi známých celebrit. Síť Reddit i například Twitter podobná videa mažou.

"Očekáváme, že ve Spojených státech se tato technika objeví v listopadových kongresových volbách a v prezidentských volbách v roce 2020," řekl agentuře AP Hany Farid, expert na digitální technologie ze státu New Hampshire. "Technologie nezná hranic a dopad to bude mít na všechny," soudí Farid. Svět podle něj vstupuje do éry, kdy nebude jisté nic, co člověk vidí. Lidé pak budou za podvod považovat i videa zobrazující skutečnost.

Výzkumné agentury amerického ministerstva obrany se už dva roky zabývají vývojem nástrojů, které "deepfakes" rozpoznají, napsala AP. Zatím je k jejich identifikaci nutná rozsáhlá analýza a není jasné, zda vývoj obranných prostředků nebude za vývojem manipulativních technik zaostávat.

Metoda "deepfakes" využívá postupů takzvaného hlubokého učení (deep learning), což je forma umělé inteligence. Počítač dostane velký objem algoritmů, tedy vzorových podkladových souborů ve formě obrázků a zvuků se zachycením cílové osoby. S jejich využitím se naučí uměle vytvářet výrazy její tváře, pohyby těla, způsob a intonaci řeči. Má-li stroj dostatek podkladů, může vyrobit video s vyobrazením osoby hovořící prakticky o čemkoli, chovající se jakkoli.

Podle amerického senátora Marka Rubia je snadné si představit, že se této techniky zmocní cizí státy s cílem poškodit USA. Může se objevit video amerických vojáků masakrujících civilisty, záznam projevu amerického politika spřádajícího spiklenecké plány, obrázek íránského nebo severokorejského vůdce oznamujícího okamžitý útok na USA. Podle Rubia může vzniknout chaos a nestabilita před důležitými volbami nebo klíčovým rozhodnutím vlády.

"Za rok či dva bude prakticky nemožné rozeznat podvod od skutečnosti," předpověděl Andrew Grotto ze Stanfordovy univerzity. "Státy nedokážou odolat, aby této techniky nevyužily k manipulaci veřejným míněním, ke zmatení veřejnosti a podkopání důvěry v demokratické instituce," varoval Grotto. Státníci by podle něj proto měli veřejně vyhlásit, že podobné praktiky nemají v civilizované politické debatě místo.

Tento článek máteje zdarma. Když si předplatíte HN, budete moci číst všechny naše články nejen na vašem aktuálním připojení. Vaše předplatné brzy skončí. Předplaťte si HN a můžete i nadále číst všechny naše články. Nyní první 2 měsíce jen za 40 Kč.

  • Veškerý obsah HN.cz
  • Možnost kdykoliv zrušit
  • Odemykejte obsah pro přátele
  • Ukládejte si články na později
  • Všechny články v audioverzi + playlist