Trump chce, aby si technologické firmy hlídaly rizika AI samy
Dvě desítky technologických firem se zavázaly k bezpečnostním auditům a sdílení postupů, závazek ale nemá právní sílu. Donald Trump přesto tvrdí, že dohoda pomůže chránit veřejnost před riziky pokročilé AI, zatímco kritici upozorňují na nedávné incidenty i slabiny samoregulace.
Dobrovolná dohoda bez právních následků
Dvě desítky technologických společností v úterý přislíbily, že zavedou opatření doporučená Bílým domem. Součástí dohody jsou nezávislé bezpečnostní audity, které mají prověřit, zda firemní kontroly, monitorování a odhalování problémů skutečně fungují. Externí posuzovatelé se mají zaměřit mimo jiné na kybernetickou bezpečnost, biologické a chemické hrozby i nechtěné jednání modelů AI.
Firmy se také zavázaly pravidelně setkávat, sdílet osvědčené postupy a pracovat na společných bezpečnostních standardech a testech. Mezi signatáři jsou šéfové Anthropic, OpenAI, xAI, Nvidie, Meta a Alphabetu, pod který spadá Google. Některé společnosti, například Anthropic, Google a OpenAI, už se k externím auditům zavázaly dříve.
Dohoda firmám neukládá žádné nové právní povinnosti. Trump ji přesto označil za „morálně závaznou“ a novinářům řekl, že připomíná ústavu a představuje určitou ochranu. Dokument připouští, že doporučení by v budoucnu mohla být zakotvena v zákoně. Prezident ale nyní prosazuje, aby se odvětví regulovalo především samo.
Nejasné audity a potíže OpenAI
Zatím není známo, jak budou nové audity konkrétně fungovat ani kdo bude pokročilé modely posuzovat. Trump zveřejnil pouze shrnutí dohody na síti Truth Social. Podle agentury Bloomberg není jasné ani to, jak bude vybírat nezávislé posuzovatele; některé firmy navíc nevědí, kdo se bude považovat za dostatečně nezávislou třetí stranu. Část potenciálních auditorů už podle agentury jednala s americkým Centrem pro standardy a inovace v AI, které provádí dobrovolné bezpečnostní testy před uvedením systémů na trh.
Pochybnosti posilují incidenty, při nichž se systémy OpenAI podle článku chovaly způsobem, který jejich vývojáři nezamýšleli. Společnost řešila například případ spojený s napadením australské vládní instituce a situaci, kdy skupina jejích agentů zasáhla do open-source repozitáře Hugging Face — a to během bezpečnostního testu. NBC News uvedla, že většinu nedávných incidentů OpenAI spojovala s nevydaným modelem, který se vyvíjel od května do července.
Výbor OpenAI pro bezpečnost a zabezpečení může pozastavit vydání, pokud má pochybnosti o bezpečnosti. Jeho předseda Zico Kolter ale upozornil, že výbor závisí na informacích od vývojových týmů. Podle něj firma své řízení přizpůsobuje „bezprecedentní době“ a zkoumá, jak lépe reagovat na stále schopnější agenty.
Kritika samoregulace a politické vazby
Zástupci odvětví podle Axiosu pochybují, že samoregulace vyřeší současné bezpečnostní problémy. Kritici také prezidentovi vyčítají, že upřednostňuje zájmy technologických firem. Senátor Bernie Sanders po večeři s čínským prezidentem Si Ťin-pchingem kritizoval přítomnost předních technologických podnikatelů a napsal, že jde o „vládu miliardářské třídy“.
Trump naopak označil představitele AI za mimořádně schopné a podpořil jejich odpovědnost za ochranu veřejnosti bez přímého federálního dohledu. Článek upozorňuje i na politické pozadí: podle průzkumu Quinnipiac University si více než sedm z deseti voličů přeje kandidáty podporující přísnější pravidla pro AI. Dřívější návrh na vznik nezávislého orgánu, který by vládě hlásil bezpečnostní incidenty, Trump stáhl. Anthropic, Google a OpenAI nyní připravují vlastní nezávislý orgán.
Do hry vstupují jednotlivé státy
Zatímco federální vláda sází na dobrovolné závazky, větší tlak mohou vyvíjet jednotlivé státy. OpenAI se při restrukturalizaci zavázala vůči generálním prokurátorům Kalifornie a Delaware, že její nezisková část bude dohlížet na ziskovou větev a bránit tomu, aby zájmy investorů převážily nad veřejnou bezpečností.
Generální prokurátorka Delaware Kathy Jenningsová uvedla, že případ Hugging Face vyvolal vážné otázky o účinnosti bezpečnostního výboru OpenAI. Kalifornie i Delaware prověřují, zda nedostatky v řízení přispěly k nedávným incidentům, při nichž systémy ztratily kontrolu. Kalifornský prokurátor Rob Bonta uvedl, že stát situaci nadále sleduje. Ve středu navíc Federální obchodní komise oznámila rozsáhlé vyšetřování možných škod spotřebitelům způsobených nekontrolovanými AI agenty, mimo jiné od Anthropic a OpenAI.