Nová pravidla EU pro AI: obsah i komunikace se strojem musí být označeny
V Evropské unii začala platit pravidla podle článku 50 aktu o umělé inteligenci. Poskytovatelé a provozovatelé vybraných systémů musí nově informovat lidi o kontaktu s AI a označovat uměle vytvořený či upravený obsah.
Povinnosti pro poskytovatele AI
Článek 50 ukládá poskytovatelům povinnost navrhovat systémy tak, aby člověk při přímé komunikaci poznal, že jedná s umělou inteligencí. Výjimkou jsou situace, kdy je to vzhledem ke kontextu zřejmé rozumně informovanému, pozornému a obezřetnému člověku.
Samostatné pravidlo se týká systémů, které vytvářejí syntetický zvuk, obraz, video nebo text. Jejich výstupy musí obsahovat strojově čitelné označení, podle něhož lze rozpoznat, že byly uměle vytvořeny nebo upraveny. Označení má být účinné a vzájemně použitelné v takové míře, jakou dovolují technické možnosti. Zároveň se má přihlížet k nákladům a aktuálnímu stavu technologií.
Kdy se označení nevyžaduje
Pravidla se nevztahují na běžné asistované úpravy, při nichž zůstává obsah dodaný uživatelem v zásadě nezměněn. Rutinní retuš fotografie tak podle popisu do povinnosti nespadá, zatímco úplná náhrada obrazu vytvořená umělou inteligencí ano.
Mimo působnost této části pravidel zůstávají také některé systémy používané policií k odhalování, prevenci, vyšetřování nebo stíhání trestné činnosti. Platí to pouze za předpokladu, že jsou chráněna práva třetích stran. Výjimka se neuplatní, pokud může systém využívat veřejnost k oznamování trestných činů.
Co musí sdělit provozovatelé
Provozovatelé systémů pro rozpoznávání emocí nebo biometrickou kategorizaci musí informovat osoby, které jsou těmto nástrojům vystaveny. Zpracování osobních údajů přitom dál podléhá existujícím předpisům na ochranu dat: v obecném případě GDPR, u institucí EU příslušnému unijnímu nařízení a v policejním prostředí směrnici pro oblast vymáhání práva.
Zvláštní oznamovací povinnost se týká deepfake obsahu. Uměle vytvořené nebo upravené obrázky, zvuk a video musí být jako takové označeny. U uměleckých, satirických a fikčních děl stačí upozornit na existenci umělého obsahu způsobem, který co nejméně naruší jeho vnímání.
Texty vytvořené nebo upravené AI, které informují veřejnost o tématech veřejného zájmu, musí být rovněž označeny. Povinnost odpadá, pokud text zkontroloval člověk a za jeho zveřejnění nese odpovědnost konkrétní osoba v redakčním procesu. Přímé publikování neupraveného výstupu AI tuto podmínku nesplňuje.
Kontrola a způsob plnění
Oznámení musí být sděleno nejpozději při prvním kontaktu nebo vystavení obsahu. Má být srozumitelné, dobře rozlišitelné a dostupné v souladu s pravidly přístupnosti; dodatečné upozornění po skončení kontaktu nestačí.
Většinu případů budou kontrolovat vnitrostátní orgány dozoru nad trhem. Systémy spadající pod vlastní dohled bude řešit Úřad pro umělou inteligenci a při použití systému institucí EU zasáhne Evropský inspektor ochrany údajů.
U označování uměle vytvořeného obsahu mohou organizace využít Kodex praxe pro transparentnost obsahu generovaného AI. Kdo se ke kodexu nepřipojí, musí prokázat splnění povinnosti jinými prostředky, které úřady vyhodnotí jako dostačující. Pro ostatní povinnosti obdobná jednotná zkratka neexistuje; pokyny Evropské komise slouží především jako referenční rámec.