Státy chtějí ochránit citlivé chaty uživatelů Character.AI při bankrotu
Čtyřicet generálních prokurátorů amerických států žádá, aby při prodeji majetku Character.AI zůstaly soukromé konverzace uživatelů chráněné. Upozorňují na citlivost těchto dat i na rizika, která podle nich služba představuje zejména pro děti.
Data v insolvenčním řízení
Character.AI požádala o ochranu před věřiteli podle kapitoly 11 amerického insolvenčního zákona a oznámila, že prodá část svého majetku společnosti Disney. Právě osud informací, které firma získala od uživatelů, nyní vyvolává obavy amerických státních úřadů. Čtyřicet generálních prokurátorů z obou hlavních politických stran podalo v insolvenčním řízení oznámení o svém zájmu. Chtějí, aby soud i případný kupující počítali s právními a regulačními otázkami, které mohou převod firmy nebo jejího majetku provázet.
Prokurátoři upozorňují, že uživatelé chatbotům často svěřují velmi osobní informace. Případný prodej proto podle nich neznamená jen převod technologií či obchodních aktiv: týkat se může také soukromých konverzací. Zvláštní obavy mají o děti a dospívající, kterých službu využívá velké množství.
Vyšetřování začalo v roce 2024
Podle podání několik států vyšetřovalo Character.AI už před vyhlášením bankrotu. Zkoumání obav souvisejících s ochranou spotřebitelů a soukromím zahájily v roce 2024. Stalo se tak po žalobě matky čtrnáctiletého dítěte, které zemřelo sebevraždou. Žaloba uváděla, že k tomu došlo údajně několik sekund poté, co dítě komunikovalo s chatbotem.
Generální prokurátorka státu New York Letitia James oznámila, že její úřad odhalil společné vyšetřování vedené několik let. Státy se podle její kanceláře snažily s Character.AI řešit zjištěné problémy, ale před podáním návrhu na bankrot se jim nepodařilo dosáhnout dohody. Jamesová uvedla, že nyní chce zajistit, aby případný kupující upřednostnil bezpečí dětí a zavedl skutečnou ochranu.
Státy popisují rizika pro děti
V tiskové zprávě kanceláře newyorské prokurátorky se uvádí, že vyšetřování odhalilo „mimořádně vážná nebezpečí“ a možné protiprávní jednání. Mezi konkrétní výhrady patří chatboti vystupující jako licencovaní odborníci, vystavení uživatelů sexuálnímu a násilnému obsahu a nedostatečné ověřování věku. Úřad také zmiňuje zavádějící tvrzení o bezpečnosti služby a možné porušování státních zákonů na ochranu soukromí.
Jde o závěry a obvinění, která vyjádřily úřady jednotlivých států; Character.AI ani Disney se k žádosti o komentář bezprostředně nevyjádřily. Podání prokurátorů zároveň zdůrazňuje, že rizika se týkají nejen samotných funkcí služby, ale také toho, jak citlivé informace mohou být v jejích konverzacích uložené.
Požadují konkrétní pojistky
Generální prokurátoři žádají soud, aby kupujícímu uložil povinnost zavést postupy na ochranu informací, které Character.AI shromáždila. Požadují účinné ověřování věku a omezení toho, jak mohou nezletilí s chatboty komunikovat. Mezi navrhovanými opatřeními jsou také bezpečnostní mechanismy pro krizové situace a možnost, aby uživatelé svá data smazali.
Letitia James varovala, že firma shromáždila některé z nejosobnějších myšlenek, které děti kdy sdílely, a že tyto rozhovory by se nyní mohly dostat k nejvyšší nabídce. Její úřad proto podle vyjádření usiluje o to, aby případný nabyvatel dat a dalších aktiv zavedl ochranná pravidla. O tom, jaké podmínky budou součástí případného převodu, má rozhodovat insolvenční řízení.