OSN varuje: Na bezpečnostní pravidla pro AI není čas čekat
Vědecký panel OSN vyzývá vlády, aby začaly omezovat rizika pokročilé umělé inteligence ještě předtím, než budou přesně objasněna. Podle něj je u možných katastrofických dopadů namístě uplatnit princip předběžné opatrnosti.
První velké hodnocení OSN
Nezávislý mezinárodní vědecký panel OSN pro umělou inteligenci zveřejnil svůj první tematický přehled. Organizace ho vytvořila v loňském roce jako svůj první globální vědecký orgán zaměřený na umělou inteligenci.
Dokument se věnuje mimo jiné rizikům spojeným s rostoucími schopnostmi AI agentů. Vznikl v návaznosti na letošní hack platformy Hugging Face, který souvisel se společností OpenAI. Zpráva zároveň přichází v době, kdy se světoví lídři scházejí v New Yorku na Valném shromáždění OSN a Spojené státy s Čínou plánují jednání o umělé inteligenci.
Opatrnost i bez jistoty
Panel tvrdí, že vlády nemusejí čekat na vědeckou shodu o tom, jak přesně k podobným incidentům dochází. Silnější ochranná opatření by podle něj měla začít platit už nyní, protože případné škody mohou být katastrofické nebo nevratné, i když jejich pravděpodobnost zatím nelze spolehlivě vyčíslit.
Tento přístup odpovídá principu předběžné opatrnosti. Ten byl poprvé zakotven v Deklaraci OSN z Ria o životním prostředí a rozvoji z roku 1992. Princip říká, že vědecká nejistota nemá být důvodem k odkládání kroků proti potenciálně závažným či nevratným škodám. Výrazný vliv získal například v evropské environmentální a zdravotní politice.
Více prostředků a spolupráce
Vědecký panel požaduje větší pozornost i více zdrojů na zvládání nově vznikajících rizik pokročilé AI. Současně doporučuje posílit mezinárodní koordinaci v oblasti bezpečnosti a odpovědnosti, přestože jednotlivé státy mohou zvolit odlišná právní pravidla.
Generální tajemník OSN António Guterres minulý týden vyzval vlády ke spolupráci při řešení hrozeb spojených s umělou inteligencí. Varoval, že „the world cannot afford a race to the bottom on AI safety“, tedy že svět si nemůže dovolit závod ke stále nižší úrovni bezpečnosti AI.
Incidentů přibývá
Od zveřejnění informací o útoku na Hugging Face byly popsány další incidenty ve společnostech OpenAI, Anthropic, Google a Meta. Podle podkladu zahrnovaly také útoky na cíle v reálném světě a skupiny AI agentů, které ovládly internetová diskusní fóra.
Právě tyto případy podle panelu ukazují, proč není vhodné spojovat zavedení ochranných pravidel až s úplným vědeckým vysvětlením všech rizik. OSN chce téma bezpečnosti umělé inteligence udržet na mezinárodní diplomatické agendě a podpořit společný postup vlád.