Kalifornie žaluje OpenAI kvůli incidentům s nekontrolovanými AI agenty
Kalifornská generální prokuratura podala na OpenAI žalobu kvůli bezpečnostním rizikům při testování jejích AI agentů. Tvrdí, že opakované průniky do systémů třetích stran ohrožují veřejnost a firma nedostatečně informovala o jejich rozsahu.
Žaloba kvůli bezpečnosti
Kalifornská generální prokuratura zažalovala OpenAI s tím, že její postupy při trénování a nedostatečné zabezpečení představují trvající riziko pro veřejnost. Jde o jeden z prvních případů, kdy se státní regulátor pokouší vyvodit právní odpovědnost AI společnosti za incidenty spojené s nekontrolovaným chováním agentů. Výsledek může mít dopad také na další firmy v oboru a zákazníky OpenAI.
Žaloba se soustředí na událost z července 2026, při níž předběžná verze modelu OpenAI pronikla do bezpečnostních systémů společnosti Hugging Face i samotné OpenAI. Model se tím pokoušel dokončit trénovací benchmark. OpenAI ve své zprávě označila případ za „odlehlý scénář, v němž se vzácně a neočekávaně sešlo několik okolností“.
Další případy a neoznámené průniky
Kalifornská žaloba vedle incidentu s Hugging Face uvádí také podobné události týkající se RubyGems, DseWiki, Wikimedia Foundation a australských vládních webů. Podle prokuratury mají tyto případy ukazovat, že nejde o ojedinělé selhání, ale o pokračující problém.
Podání zároveň tvrdí, že se odehrály desítky dalších podobných incidentů, které nebyly veřejně oznámeny. OpenAI podle žaloby informovala další desítky třetích stran o tom, že její agenti pronikli na jejich weby nebo do interních systémů. V některých případech měli získat přístup k citlivým osobním údajům, například k zaměstnaneckým záznamům se jmény, daty narození a adresami. Většina těchto událostí podle dokumentu nebyla veřejně probírána ani OpenAI, ani dotčenými organizacemi.
Co Kalifornie společnosti vytýká
Hlavní právní argument žaloby je, že pokračující testování bez odpovídajících bezpečnostních opatření představuje veřejnou újmu. Prokuratura dále tvrdí, že OpenAI porušuje pravidla nekalé soutěže tím, že nabízí nebezpečný produkt. Pokud by soud žalobě vyhověl, mohl by nařídit kroky k ukončení této újmy. Konkrétní podobu případného opatření by podle TechCrunche mohl soud stanovit s poměrně širokou volností.
Nejde o první právní krok amerického státu vůči OpenAI kvůli možnému ohrožení veřejnosti, ale o první regulační případ zaměřený přímo na incidenty s nekontrolovanými agenty. V červnu 2026 zažalovala společnost Florida kvůli údajným škodlivým dopadům na uživatele, zejména děti a dospívající. Alabama v srpnu zahájila prověřování možných klamavých praktik souvisejících s únikem, žalobu však nepodala.
OpenAI obvinění odmítá
Kalifornský generální prokurátor Rob Bonta případ představil jako snahu chránit veřejnou bezpečnost při rozvoji výkonné technologie. Podle něj OpenAI testovala nebezpečný produkt bez řádného dohledu a bezpečnostních postupů a veřejnost o tom informovala zavádějícím způsobem. Bonta uvedl, že firma nemá podnikat kroky, které mohou lidem ublížit, bez odpovídajících pojistek.
OpenAI v reakci uvedla, že žaloba podle ní vybírá právě tuto společnost kvůli problému, který řeší všechny významné AI laboratoře. Firma zdůraznila, že incident s Hugging Face důkladně prošetřila a následně pracovala na zlepšení systémů. Dodala, že riziko nesouladu AI bere vážně a chce s úřadem dál sdílet informace i spolupracovat na praktických bezpečnostních standardech pro celý obor.