Konec nahotin na síti X. Muskova platforma znemožní vytváření odhalených fotek skutečných lidí

Americká sociální síť X miliardáře Elona Muska znemožní pomocí chatbota Grok generovat a upravovat fotografie skutečných lidí v odhalujícím oblečení v zemích, kde je to nelegální. Opatření oznámila v souvislosti se skandálem, kdy chatbot na žádost uživatelů na síti X generoval sexualizované fotografie žen a dětí. Britský úřad pro regulaci mediálního trhu Ofcom v reakci uvedl, že jeho vyšetřování v této věci nadále pokračuje.

Ve středu platformě v souvislosti se skandálem pohrozil kalifornský státní návladní Rob Bonta. „Žádáme od společnosti xAI okamžitou odpověď na její plán zastavit vytváření a šíření tohoto obsahu. Využijeme všechny nástroje, které máme k dispozici, abychom zajistili bezpečnost Kaliforňanů,“ napsal na síti X.

„Zavedli jsme technologická opatření, abychom zabránili účtu Grok umožnit úpravu snímků skutečných lidí v odhalujícím oblečení,“ stojí v oznámení. „Nyní geograficky blokujeme možnost všech uživatelů generovat obrázky skutečných lidí v bikinách, spodním prádle a podobném oblečení prostřednictvím účtu Grok a v aplikaci Grok na síti X v jurisdikcích, kde je to nezákonné,“ dodala platforma.

Bikinový Grok: Nový trend na síti X není nevinná legrace, uživatelé zneužívají umělou inteligenci i k sexualizaci nezletilých

6. 1. 2026 ▪ 4 min. čtení

Ofcom zahájil vyšetřování platformy X v pondělí. Zabývá se podezřením, že síť nedostatečně chrání uživatele před nezákonným obsahem. Ve čtvrtek Ofcom krok sítě X uvítal, nicméně zdůraznil, že ve vyšetřování pokračuje, uvedla agentura Reuters.

Věcí se zabývá také Evropská komise. „Nelegální. Nepřijatelné. Nechutné,“ uvedl minulý týden mluvčí komise Thomas Regnier. Dodal, že podle unijního nařízení o digitálních službách (DSA) má síť X povinnost situaci řešit.

Doktorandka dublinské Trinity College Nana Nwachukwuová ve svém výzkumu shromáždila asi 500 interakcí uživatelů sítě X s Grokem, na nichž podle zprávy webu The Guardian z minulého týdne dokládá, jak často se něco podobného děje. Téměř tři čtvrtiny příspěvků byly žádosti o snímky skutečných žen nebo nezletilých s odstraněnými nebo přidanými částmi oblečení.

Uživatelé si podle Nwachukwuové navzájem radí, jak zadávat příkazy. Navrhují Groku zobrazení žen v prádle nebo plavkách, případně s částmi těla pokrytými spermatem a žádají chatbota, aby odstranil svrchní oděv v odpovědích na příspěvky obsahující autoportréty uživatelek. Z kontextu vyplývá, že se tak děje bez souhlasu dotčených žen.

Musk loni oznámil, že kontrolu nad sítí X převzal jeho start-up pro umělou inteligenci xAI, který získal firmu X Corp, tedy provozovatele sítě X. Start-up také vyvíjí chatbota Grok, kterého síť X integrovala do své platformy. Jedním z Muskových projektů bylo integrování chatbota do sítě X, což umožňuje uživatelům povolat jej na pomoc v běžných veřejných konverzacích.

Loni Grok na síti X zveřejnil antisemitské a urážlivé komentáře. Mezi jeho výstupy se objevily například konspirační teorie o židovském vlivu a Grok sám sebe v některých odpovědích označil za MechaHitlera, robotickou postavu Hitlera, která se poprvé objevila v roce 1992 ve videohře Wolfenstein 3D.