Žaloba může odhalit tajná pravidla USA pro testování bezpečnosti AI
Nezisková organizace Protect Democracy zažalovala čtyři federální úřady kvůli utajovanému rámci, podle kterého administrativa Donalda Trumpa posuzuje bezpečnost pokročilých modelů umělé inteligence. Požaduje zveřejnění neutajovaných pravidel, seznamu účastníků i podmínek, za nichž firmy získávají přístup k vládnímu hodnocení.
Co žaloba požaduje
Protect Democracy podala žalobu proti Office of the National Cyber Director, Office of Science and Technology Policy, ministerstvu financí a ministerstvu obchodu. Tvrdí, že veřejnost ani Kongres téměř neznají podobu systému, který má před uvedením na trh prověřovat takzvané frontier AI modely.
Organizace žádá soud, aby úřadům nařídil do 30. září zveřejnit veškeré neutajované informace. Patří mezi ně samotný text rámce, podmínky účasti, identita zapojených subjektů i pravidla, podle kterých vláda přístup k pokročilým modelům povoluje nebo odmítá. Protect Democracy zároveň požaduje, aby úřady nemohly neoprávněně zadržovat neutajované dokumenty.
Riziko politického ovlivňování
Podle žalobců může netransparentní systém umožnit zvýhodňování firem, které jsou politicky blízké prezidentovi, nebo naopak trestání společností a lidí za jejich postoje. Organizace připomněla také nedávné rozhodnutí soudu, podle nějž bylo nezákonné, když Trumpova administrativa zařadila Anthropic na černou listinu kvůli údajnému „woke“ přístupu.
Bez znalosti pravidel navíc není jasné, zda úřady používají dostatečně účinné a aktuální testy. Veřejnost tak podle Protect Democracy nemůže posoudit, zda případné budoucí bezpečnostní problémy vznikly kvůli přehlédnuté zranitelnosti, zastaralému testování nebo nedokončené kontrole. Organizace varuje i před tím, že rámec může vytvořit falešný pocit bezpečí.
GOLD EAGLE zůstává neprůhledný
Administrativa v červenci spustila iniciativu GOLD EAGLE, která má s pomocí průmyslových partnerů odhalovat kybernetické zranitelnosti v různých odvětvích. Vláda však neuvedla, které společnosti se účastní, za jakých podmínek ani o jakou právní pravomoc se program opírá.
Bílý dům 3. srpna oznámil dokončení dobrovolného rámce pro hodnocení AI modelů před jejich veřejným vydáním. Některé části procesu mohou být utajované, například benchmarking pokročilých schopností. Samotný rámec však podle žaloby jako celek utajovaný není. Přesto jej administrativa sdílela pouze s vybranými AI firmami a odmítla podrobnosti zveřejnit.
Kongres rozhoduje o právním základu
Tajnosti se netýkají jen veřejnosti. Protect Democracy tvrdí, že bez dokumentů nemůže Kongres smysluplně posoudit fungování programu ani rozhodnout o prodloužení ochrany podle zákona Cybersecurity Information Sharing Act z roku 2015. Právě tato ochrana má být podle žaloby zřejmě hlavním právním základem pro sdílení informací mezi firmami a vládou prostřednictvím GOLD EAGLE.
Příslušné ustanovení zákona může Kongres prodloužit nejdříve 30. září a nejpozději 11. prosince. Organizace chce v případě úspěchu zveřejnit získané dokumenty. Tvrdí, že bez transparentních pravidel nemohou program účinně kontrolovat zákonodárci, soudy ani nezávislí odborníci na bezpečnost AI.