OSN varuje: Na bezpečnostní pravidla pro AI není čas čekat

Vědecký panel OSN vyzývá vlády, aby začaly omezovat rizika pokročilé umělé inteligence ještě předtím, než budou přesně objasněna. Podle něj je u možných katastrofických dopadů namístě uplatnit princip předběžné opatrnosti.

První velké hodnocení OSN

Nezávislý mezinárodní vědecký panel OSN pro umělou inteligenci zveřejnil svůj první tematický přehled. Organizace ho vytvořila v loňském roce jako svůj první globální vědecký orgán zaměřený na umělou inteligenci.

Dokument se věnuje mimo jiné rizikům spojeným s rostoucími schopnostmi AI agentů. Vznikl v návaznosti na letošní hack platformy Hugging Face, který souvisel se společností OpenAI. Zpráva zároveň přichází v době, kdy se světoví lídři scházejí v New Yorku na Valném shromáždění OSN a Spojené státy s Čínou plánují jednání o umělé inteligenci.

Opatrnost i bez jistoty

Panel tvrdí, že vlády nemusejí čekat na vědeckou shodu o tom, jak přesně k podobným incidentům dochází. Silnější ochranná opatření by podle něj měla začít platit už nyní, protože případné škody mohou být katastrofické nebo nevratné, i když jejich pravděpodobnost zatím nelze spolehlivě vyčíslit.

Tento přístup odpovídá principu předběžné opatrnosti. Ten byl poprvé zakotven v Deklaraci OSN z Ria o životním prostředí a rozvoji z roku 1992. Princip říká, že vědecká nejistota nemá být důvodem k odkládání kroků proti potenciálně závažným či nevratným škodám. Výrazný vliv získal například v evropské environmentální a zdravotní politice.

Více prostředků a spolupráce

Vědecký panel požaduje větší pozornost i více zdrojů na zvládání nově vznikajících rizik pokročilé AI. Současně doporučuje posílit mezinárodní koordinaci v oblasti bezpečnosti a odpovědnosti, přestože jednotlivé státy mohou zvolit odlišná právní pravidla.

Generální tajemník OSN António Guterres minulý týden vyzval vlády ke spolupráci při řešení hrozeb spojených s umělou inteligencí. Varoval, že „the world cannot afford a race to the bottom on AI safety“, tedy že svět si nemůže dovolit závod ke stále nižší úrovni bezpečnosti AI.

Incidentů přibývá

Od zveřejnění informací o útoku na Hugging Face byly popsány další incidenty ve společnostech OpenAI, Anthropic, Google a Meta. Podle podkladu zahrnovaly také útoky na cíle v reálném světě a skupiny AI agentů, které ovládly internetová diskusní fóra.

Právě tyto případy podle panelu ukazují, proč není vhodné spojovat zavedení ochranných pravidel až s úplným vědeckým vysvětlením všech rizik. OSN chce téma bezpečnosti umělé inteligence udržet na mezinárodní diplomatické agendě a podpořit společný postup vlád.