Šéf DeepMindu navrhuje nezávislý dohled nad nejpokročilejší AI
Demis Hassabis, šéf Google DeepMind, navrhl vznik nezávislého orgánu, který by posuzoval nejpokročilejší modely umělé inteligence ještě před jejich uvedením na trh. Organizace by byla inspirovaná finančním dohledem FINRA, financoval by ji průmysl a podporovala by ji americká vláda.
Návrh nového dohledu
Demis Hassabis představil svůj návrh v úterním příspěvku na síti X s názvem „A Framework for Frontier AI and the Dawning of a New Age“. Požaduje v něm vytvoření nového standardizačního orgánu, který by dohlížel na vydávání takzvaných frontier modelů – tedy nejpokročilejších systémů umělé inteligence.
Inspirací má být americká Financial Industry Regulatory Authority (FINRA), samoregulační organizace dohlížející na finanční trhy. Nový orgán by měl testovat výkonné modely, vytvářet doporučené postupy pro jejich nasazení a vyhodnocovat rizika spojená s jejich provozem.
Dobrovolně, později povinně
Podle Hassabisovy představy by vývojáři frontier modelů zpočátku své systémy poskytovali k posouzení dobrovolně, a to až 30 dní před plánovaným vydáním. Pokud by se hodnoticí protokol ukázal jako účinný a spolehlivý, mohl by se z něj stát formální požadavek pro nasazení modelů na americkém trhu.
Vývojáři by zároveň s orgánem spolupracovali při řešení závažných zranitelností objevených po vydání modelu. Hassabis tvrdí, že by takový systém mohl reagovat na rychlý vývoj oboru a postupně zpřísňovat pravidla podle toho, jak vážná rizika by se objevila.
Reakce na kritizované prověrky
Návrh navazuje na jednorázová hodnocení, která americká vláda provedla u modelů Mythos od společnosti Anthropic a Sol od OpenAI. Tato posouzení však čelila kritice kvůli nedostatku technických odborností i nejasnému rozhodování o tom, kdy může být model uveden do provozu.
Podle Hassabise by rozhodování přešlo na novou organizaci podporovanou americkou vládou, ale provozně nezávislou a financovanou AI průmyslem. Její personál by mohli tvořit techničtí experti z odvětví i zástupci open source komunity. Část hodnocení by případně zajišťovaly specializované skupiny zaměřené na bezpečnost umělé inteligence.
Spor o podobu regulace
Regulace AI zůstává ve Spojených státech sporným tématem jak pro technologické firmy, tak pro administrativu prezidenta Donalda Trumpa. Sriram Krishnan, poradce Bílého domu pro AI a partner společnosti Andreessen Horowitz, nedávno odmítl představu, že by v rámci výkonné moci vznikl úřad podobný americkému Úřadu pro kontrolu potravin a léčiv. Uvedl, že „there will not be an FDA for AI“.
Samoregulační model podobný FINRA by podle Hassabise mohl představovat kompromis mezi úplnou státní kontrolou a absencí společných pravidel. Jeho výhodou má být technické zaměření, podpora inovací a motivace firem k odpovědnému chování. Zda se návrh promění v konkrétní instituci, však zatím není rozhodnuto.