USA a Čína jednají o varování před riziky AI, Peking ale mlčí
Americký ministr financí Scott Bessent oznámil návrh komunikačního kanálu, přes který by si USA a Čína mohly předávat upozornění na rizika umělé inteligence. Čína se k němu zatím veřejně nevyjádřila a odborníci pochybují, zda plán bez technických expertů dokáže skutečně pomoci.
Varovný kanál bez odborníků
USA a Čína, dvě přední mocnosti v oblasti umělé inteligence, jednají o tom, jak spolupracovat při zvládání jejích rizik. Před setkáním prezidentů Donalda Trumpa a Si Ťin-pchinga americký ministr financí Scott Bessent oznámil, že obě strany už diskutovaly o vytvoření systému vzájemných upozornění. Pokud by se Čína zapojila, země by mohly druhou stranu varovat, že jejich AI systémy představují hrozbu nebo se chovají nepředvídatelně.
Podle Bessenta by kanál mohl sloužit také ke sdílení společných cílů. Čína ale návrh dosud veřejně nepotvrdila. Lidé obeznámení s plánem, na které se odvolal server Politico, navíc upozorňují, že v systému zřejmě nemají být technicky kvalifikovaní úředníci, kteří by dokázali posoudit závažnost oznámených rizik.
Sam Bresnick z Centra pro bezpečnost a nové technologie při Georgetownské univerzitě považuje zapojení expertů za důležitý nedostatek. Stávající komunikační kanál je podle něj lepší než žádný, bez odborného posuzování ale může být jeho přínos omezený. „Nemám velkou důvěru, že to v budoucnu přinese zásadní změnu,“ řekl Ars Technica.
Napětí komplikuje spolupráci
Peking může mít důvod vnímat americkou nabídku s nedůvěrou. Trumpova administrativa zpřísňuje omezení vývozu technologií, které mají Číně bránit v přístupu k prostředkům pro rozvoj AI. V Kongresu se zároveň projednávají návrhy na další omezení dodávek čipů a hardwaru. Americké ministerstvo spravedlnosti navíc nedávno obvinilo šest předních čínských vývojářů AI z krádeže technologií amerických laboratoří. Čína obvinění důrazně odmítla.
Bresnick varuje, že Peking může bezpečnostní rozhovory chápat jako snahu USA brzdit čínský technologický rozvoj. Obavy podle něj posiluje americká rétorika o vítězství v závodu o AI. Pokud Čína bude považovat „bezpečnost AI“ za zástěrku pro udržení amerického náskoku, může podle něj navržený systém ztratit smysl.
Analytik Su Lian Jye z výzkumné společnosti Omdia uvedl, že sdílení upozornění může podpořit transparentnost, samo o sobě však neodstraní vzájemnou nedůvěru. Aby mechanismus fungoval, musely by se obě země dohodnout na klasifikaci rizik, pravidlech pro upozornění, postupu při reakci i pravidelném vyhodnocování.
Experti volají po širší dohodě
Americký demokratický kongresman Ro Khanna považuje pouhé propojení úředníků za nedostatečné. Trump by měl podle něj s čínským prezidentem jednat o mezinárodní dohodě, která by mimo jiné zakázala AI schopnou opakovaného sebezdokonalování a stanovila ochranu před zneužitím AI k vývoji biologických či jaderných zbraní.
Technologický stratég Alvin Wang Graylin vidí prostor pro praktickou spolupráci. USA a Čína podle něj čelí společným hrozbám, například zneužití AI hackery či teroristy. Čína provádí audity AI modelů ve větším rozsahu než USA a mohla by sdílet zkušenosti; Spojené státy zase mají více zkušeností s posuzováním nejpokročilejších modelů. Graylin také očekává, že jednání by mohla zesílit během příštích šesti až dvanácti měsíců, až čínské schopnosti více doženou americké.
Graylin zároveň odmítá představu, že trvalé vítězství v závodu o AI zajistí některé zemi převahu. Rozdíly mezi špičkovými modely podle něj často trvají jen několik měsíců. Upozorňuje také na rostoucí využívání otevřených čínských modelů: jejich podíl mezi uživateli by podle jeho odhadu mohl brzy přesáhnout 80 procent. Soustředění pouze na soupeření podle něj odvádí pozornost od společných rizik, která žádný stát nedokáže zvládnout sám.