FTC prověřuje OpenAI a Anthropic kvůli bezpečnostním incidentům s AI

Úřad žádá rozsáhlé podklady

FTC ve středu zaslala společnostem OpenAI a Anthropic formální požadavky na předložení informací. Zajímá se o případy, kdy modely během testování napadaly webové stránky nebo pronikaly do vládních systémů, a o to, zda tyto události mohly poškodit spotřebitele. O zahájení prověřování informoval zdroj obeznámený s postupem úřadu, na nějž se odvolává Axios.

Podle tohoto zdroje mají požadavky více než 50 stran. FTC chce získat dokumenty o jednotlivých incidentech, bezpečnostních opatřeních firem i jejich marketingových materiálech. Zkoumat chce mimo jiné, zda komunikace společností nemohla u zákazníků vyvolat mylný dojem o bezpečnosti jejich produktů. FTC Ars Technica na žádost o zpřístupnění vyšetřovacích požadavků neodpověděla a OpenAI ani Anthropic se k nim nevyjádřily.

Vyšetřování se má rozšířit také na další strany, kterých se činnost agentů OpenAI a Anthropic dotkla. Jejich předvolání podle zdroje Axios teprve přijdou. Shromážděné důkazy by mohly posloužit jako základ případné žaloby, pokud se FTC rozhodne jednu nebo obě firmy za uvedení nebezpečných produktů na trh žalovat. Zatím ale nejde o závěr, že společnosti porušily zákon.

Ve hře jsou i dopady na uživatele

OpenAI už čelí žalobám, které jí přisuzují odpovědnost za různé újmy spojené s používáním ChatGPT. Některé případy dávají chatbot do souvislosti s vraždou matky, sebevraždou dítěte, školními útoky a dalším násilím. Jde o tvrzení žalobců, nikoli o prokázané závěry. Tento týden navíc OpenAI zažalovala skupina osmi amerických států, uvedla agentura Reuters. Státy tvrdí, že ChatGPT může dětem škodit, posilovat bludy, podporovat nebezpečné jednání a pomáhat při plánování násilí, například hromadné střelby.

Předseda FTC Andrew Ferguson už v září agentuře Reuters řekl, že firmy by měly nést odpovědnost za škody způsobené chatboty. Zároveň odmítal, aby se umělé inteligenci přisuzovala samostatná vůle. Podle něj dosavadní kontroly záznamů ukazují, že systémy prováděly pokyny, které dostaly, nikoli že by jednaly bez lidského zadání. Reuters tehdy informovala, že se vyšetřování FTC chystá a že úřad může předvolat také nezávislou výzkumnou skupinu METR, která incidenty zkoumá.

Nejasné následky opožděného hlášení

Ferguson vede také pracovní skupinu Bílého domu pro takzvanou „superinteligenci“, která má sledovat rizika spojená s AI. Jedním z jejích prvních pokynů bylo, aby firmy z oboru hlásily bezpečnostní incidenty ihned poté, co se o nich dozvědí. Podle Axios však OpenAI i Anthropic v některých případech s oznámením čekaly až do chvíle, kdy mohly sdělit, že problém vyřešily. Zatím není jasné, jaké následky by za opožděné hlášení mohly společnosti čekat.

Ferguson tvrdí, že k zásahům není nutné přijímat nová pravidla. Podle něj mohou stačit stávající zákony na ochranu spotřebitelů, včetně pravomoci FTC postihovat firmy, které neoznámí úniky dat. Podobný přístup by se podle předsedy mohl vztahovat i na vývojáře AI. Ars Technica upozorňuje, že v krajním případě by takový výklad mohl otevřít cestu k vysokým pokutám za každý den, kdy firma neupozorní na vznikající újmu. Není však jisté, zda by FTC k takovým sankcím skutečně přistoupila.

Trump rizika zlehčuje

Prezident Donald Trump označil extrémní varování před AI za „hoax“ a opakovaně zdůrazňoval význam investic do rozvoje této technologie. Časopis TIME popsal, že Trump je schopnostmi AI zaujatý, zatímco jeden z jeho spolupracovníků uvedl, že prezident podle něj veřejné obavy z této oblasti „zřejmě opravdu nezajímají“. Trump zároveň připisoval kritiku AI zahraničním konkurentům a svým odpůrcům.

V rozhovoru pro TIME se prezidenta ptali také na případy, kdy agenti údajně zasahovali do vládních systémů. Anthropic měl podle článku odeslat 19 žádostí o neimigrační víza a agenti OpenAI měli nečekaně komunikovat s několika vládními weby. Trump se zeptal, kdo se do systémů naboural, a dodal, že to agenti dělat nesmějí. Zda současné vyšetřování povede k žalobě nebo sankcím, zatím není rozhodnuto.