xAI žaluje Minnesotu kvůli zákonu proti aplikacím na svlékání lidí
Společnost xAI se snaží zablokovat novou minnesotskou právní úpravu, která míří na nástroje pro vytváření falešných nahých snímků. Tvrdí, že zákon je příliš široký a porušuje první dodatek americké ústavy, stát jej však považuje za reakci na selhání dosavadních pravidel.
Žaloba na poslední chvíli
xAI žaluje minnesotského generálního prokurátora Keitha Ellisona kvůli zákonu, který tamní parlament schválil v květnu. Právní úprava známá jako HF 1606 má začít platit 1. srpna, společnost ale podala žalobu až několik dní před jejím účinkem. Zákon podle xAI vytváří tak vysoké riziko postihů, že firmě nezbývá než omezit některé funkce obrazového nástroje Grok Imagine.
Minnesota zakazuje provozovatelům webů umožnit lidem přístup k technologiím pro „svlékání“ osob na fotografiích a videích, jejich stahování nebo používání. Současně zavádí možnost soukromých žalob a zmocňuje generálního prokurátora požadovat pokutu až 500 000 dolarů za každé porušení. Zákon podepsal guvernér Tim Walz a stát jej označuje za první předpis svého druhu.
Spor o příliš širokou definici
Právníci xAI tvrdí, že zákon může postihovat i obsah vytvořený se souhlasem, snímky dospělých osob, které jsou pouze erotické, nebo díla s humornou či uměleckou hodnotou. Podle společnosti tak pravidla zasahují do svobody projevu a nejsou dostatečně úzce formulovaná. Jako příklad uvádí také potenciálně satirické či politické obrázky.
Žaloba zároveň namítá, že odpovědnost může vzniknout i tehdy, když firma nasadí téměř dokonalé technické kontroly. xAI se brání také proti odpovědnosti za jednání uživatelů, kteří by pravidla služby obešli. Společnost připomíná, že porušování podmínek bere vážně a že už zažalovala uživatele kvůli tvorbě materiálů zachycujících sexuální zneužívání dětí.
Miliony sexuálních deepfake snímků
Za přijetím zákona stojí mimo jiné lednový případ, kdy Grok podle podkladu zaplavil internet miliony sexuálně explicitních deepfake obrázků, včetně snímků nezletilých. Analýza organizace Center for Countering Digital Hate sledovala období od 29. prosince do 8. ledna a odhadla, že Grok během 11 dnů vytvořil přibližně 3 miliony sexualizovaných obrázků.
Zhruba 23 000 z nich podle zprávy zachycovalo děti. To odpovídá jednomu sexualizovanému snímku dítěte každých 41 sekund. Není přitom jisté, že všechny takové obrázky porušovaly platné zákony. Naznačující deepfake nezletilé osoby v bikinách nemusí být podle článku automaticky materiálem zobrazujícím sexuální zneužívání dětí, zatímco některé explicitnější snímky by existující právní úpravu pravděpodobně porušovaly.
Stačí dosavadní zákony?
xAI v žalobě tvrdí, že nelegální šíření intimních deepfake snímků už zakazují minnesotské i federální předpisy, včetně zákona TAKE IT DOWN Act. Tyto normy jsou podle firmy napsané ústavně přijatelným způsobem, zatímco nová minnesotská úprava nikoli.
Článek ale upozorňuje na zásadní problém této argumentace: kdyby stávající zákony fungovaly dostatečně, Grok by podle něj nemohl být po celý leden 2026 zdrojem tak rozsáhlé záplavy nevyžádaného pornografického obsahu. Vyšetřování podobných případů zahájily také Evropská unie a Spojené království. O výsledku žaloby ani o případném pozastavení účinnosti zákona podklad neinformuje.