Žaloba tvrdí, že xAI trénovala modely Grok na materiálech se zneužíváním dětí
Nová žaloba obviňuje společnost xAI, že při vývoji obrazových a video funkcí Groku využila materiály zobrazující sexuální zneužívání dětí. Případ se týká také tvrzení, že model ukládá své výstupy a používá je k dalšímu trénování.
Oběť upozornila na nový obsah
Žalobu ve středu podala žena označená jako Jane Doe. Podle dokumentu byla na začátku 21. století v předškolním věku opakovaně znásilněna dospělými muži, kteří zneužívání nahrávali a materiály prodávali lidem se zájmem o dětskou pornografii.
Její fotografie byly později opatřeny digitálními otisky, takzvanými hashi, v databázích organizací National Center for Missing and Exploited Children (NCMEC) a Canadian Centre for Child Protection (CCCP). CCCP následně ženu upozornilo, že na platformě xAI identifikovalo uměle vygenerované materiály, které ji zobrazovaly. Zjištění podle žaloby vedlo k nové traumatizaci oběti.
Co žaloba xAI vytýká
Jane Doe se obává, že Grok nejen usnadnil tvorbu dalších zneužívajících snímků založených na její podobě, ale že tyto výstupy také ukládá a používá při dalším trénování modelu. Žaloba proto tvrdí, že se Grok mohl učit jak z původních materiálů, které oběť pronásledují už více než 20 let, tak z nově vytvořených umělých snímků.
Jde o první případ, který xAI přímo obviňuje z trénování na materiálech zobrazujících sexuální zneužívání dětí. Dokument však tuto část podrobně nerozvádí. Právníci uvádějí, že materiály zachycující Jane Doe byly v seznamu hashů vedeném NCMEC a že „tentýž materiál“ měl být součástí datové sady použité xAI pro tvorbu obrazových a video funkcí Groku. Ars Technica zároveň upozornila, že z toho nevyplývá spojení xAI s dříve popsanou kontroverzní datovou sadou, v níž výzkumníci nalezli podobný obsah.
Veřejné příspěvky jako tréninková data
Žaloba se opírá také o podmínky Groku. Ty podle ní ve výchozím nastavení považují veřejné příspěvky na síti X i samotné výstupy Groku za tréninková data. Veřejné zveřejnění snímku tak podle právníků neznamená pouze jeho zpřístupnění ostatním uživatelům, ale může ho zároveň zařadit do procesu, kterým xAI své modely vylepšuje.
xAI podle žaloby uvádí, že z trénovacích dat odstraňuje násilný obsah. Podmínky však údajně jasně neříkají, zda jsou vyloučeny také materiály zobrazující sexuální zneužívání dětí, intimní snímky zveřejněné bez souhlasu nebo obecně sexuální obsah. Dokument dodává, že odstranění vlivu určitého materiálu z již natrénovaného modelu je technicky obtížné. Pokud se tedy takový obsah do tréninku dostal před odstraněním, mohl podle žaloby dál ovlivňovat výstupy.
Požadavek na zničení materiálů
Žaloba má podobu navrhované hromadné žaloby, která by mohla zastupovat všechny oběti, jejichž dětské fotografie Grok použil k tvorbě podobných materiálů. Jane Doe tvrdí, že X porušila federální zákony týkající se dětské pornografie a takzvaný Masha’s Law. Ty podle právníků umožňují přeživším žádat odškodnění za výrobu, držení a šíření takových materiálů.
Pokud by soud žalobě vyhověl, mohla by xAI čelit finančním nárokům jednotlivých obětí. Doe zároveň žádá, aby firma zničila všechny uměle vytvořené materiály tohoto typu uložené na svých serverech nebo používané k trénování modelů a aby Grok jejich tvorbě do budoucna zabránil. X na žádost Ars Technica o komentář neodpověděla.