OpenAI, Anthropic a Google týdny jednají o bezpečnosti umělé inteligence

OpenAI, Anthropic a Google DeepMind několik týdnů diskutují o bezpečnosti nejpokročilejších modelů umělé inteligence. Firmy zároveň zvažují společné standardy a podporují zapojení nezávislých hodnotitelů, narážejí však na otázky regulace i ochrany hospodářské soutěže.

Tajná jednání potvrzena

Chris Lehane, šéf globální politiky OpenAI, v úterý uvedl, že jeho společnost už několik týdnů spolupracuje s Anthropic a Google DeepMind na otázkách bezpečnosti umělé inteligence. Informaci jako první přinesla agentura Bloomberg. Lehane se podle dostupných zpráv nachází ve Washingtonu, kde jedná s americkými zákonodárci o rizicích spojených s vývojem pokročilých systémů.

Potvrzení přišlo krátce po eseji Daria Amodeie, generálního ředitele Anthropic. Ten vyzval celý obor, aby spolupracoval na zpomalení vývoje nejpokročilejších systémů a zabránil možným katastrofickým dopadům.

Podpora napříč oborem

Amodeiho výzvu podpořili mimo jiné Sam Altman z OpenAI, Demis Hassabis z Googlu a Elon Musk ze SpaceXAI. Altman uvedl, že OpenAI se k Anthropic připojí při zavádění externích hodnotitelů, kteří mají sledovat bezpečnost fungování společnosti a jejích modelů.

Lehane zároveň řekl, že OpenAI podporuje ustanovení amerického návrhu FRONTIER Act. To by největším laboratořím vyvíjejícím takzvané frontier modely ukládalo povinnost umožnit nezávislým ověřovacím organizacím kontrolovat, zda jsou tyto systémy vyvíjeny bezpečně.

Společné standardy a antimonopolní riziko

Podle dřívějších zpráv The Information firmy pracují také na vytvoření standardizační organizace pro celý sektor umělé inteligence. Altman měl zaměstnancům říct, že taková iniciativa by musela vzniknout bez podpory americké vlády. Hassabis už v červenci vyzval Spojené státy k založení nového orgánu, který by fungoval jako dohled nad AI, prověřoval nejpokročilejší modely a v případě rostoucího nebezpečí koordinoval zpomalení vývoje napříč odvětvím.

Spolupráce konkurentů ale může narazit na antimonopolní právo. Někteří představitelé, včetně Altmana, upozornili, že společné postupy by mohly být problematické, pokud by byly vyhodnoceny jako snaha o omezení konkurence. Amodei proto navrhl úzce zaměřenou vládní výjimku pro bezpečnostní spolupráci. Lehane však podle dostupných informací uvedl, že firmy takovou výjimku nepotřebují.

Rozdílný postoj Washingtonu

Bezpečnostní iniciativa se odehrává v prostředí, kde část americké administrativy volá po opatrnosti, zatímco prezident Donald Trump obavy z AI označuje za podvod a odmítá přísnější regulaci. Podle něj by zpomalení vývoje zvýhodnilo Čínu. Jeho poradce pro AI David Sacks podobně tvrdí, že obavy z existenčních rizik umělé inteligence jsou přehnané.

TechCrunch požádal Anthropic, Google a OpenAI o komentář. Z podkladů nevyplývá, zda všechny tři společnosti zveřejnily k jednáním vlastní stanovisko.