AI agenti zaplavují veřejné služby žádostmi. Úřady řeší nový nápor
Nástroje jako ChatGPT a Claude usnadňují lidem vyplňování formulářů, podávání stížností i žádostí. Veřejné instituce v několika zemích proto zaznamenaly prudký růst počtu podání, který podle výzkumníka Chrise Schmitze nemusí brzy zpomalit.
Stížností rychle přibývá
Ve Spojeném království se počet stížností k ombudsmanovi pro bydlení od roku 2022 více než zdvojnásobil. Zatímco tehdy jich úřad evidoval 2 600, loni jich bylo o něco více než 7 000. Americký Consumer Financial Protection Bureau (CFPB) zaznamenal za stejné období pětinásobný růst počtu stížností.
Podobný vývoj se objevil také u soudních podání v Brazílii a petic německému parlamentu. Výzkumník Chris Schmitz tento širší trend označuje jako „agentic flooding“, tedy zaplavování institucí podáními vytvořenými nebo připravenými s pomocí umělé inteligence.
Výzkum sleduje 84 případů
Schmitz ve studii, kterou má představit příští měsíc na konferenci AI Ethics and Society, analyzoval 84 možných případů v 11 jurisdikcích. Zabýval se například žádostmi o sociální podporu, oficiálními odvoláními nebo dalšími online službami, ke kterým může přistupovat AI asistent.
Studie z metodologických důvodů netvrdí, že za růstem stojí přímo umělá inteligence. Ve většině sledovaných případů ale podle autora platí podobný vzorec: počet podání byl před rokem 2022 přibližně stabilní, následně začal růst a tempo se zvyšovalo s rozšiřováním AI nástrojů. Růst se zatím ve většině případů nezastavil.
Méně překážek pro žadatele
Umělá inteligence může výrazně snížit takzvanou administrativní zátěž. Člověk, který by dříve žádost nebo stížnost nepodal kvůli složitému formuláři, shromažďování podkladů či nejistotě ohledně správného postupu, dnes může využít ChatGPT nebo Claude. Podle Schmitze tak většina nových podání nevzniká jako záměrný spam, ale pochází od lidí s oprávněnými nároky.
Rozšíření AI podle něj postupně mění i způsob, jakým lidé veřejné služby používají. Zatímco dříve bylo nutné dávat chatbotu přesné pokyny a složitě mu předávat souvislosti, dnes může stačit vložit text dopisu nebo jeho fotografii do aplikace Claude a získat použitelnou odpověď.
Úřady čeká náročná změna
Vyšší počet žádostí však znamená také větší tlak na instituce. Podobnou situaci loni zažily programy pro hlášení bezpečnostních chyb, kterým jazykové modely zaplnily schránky množstvím nekvalitních oznámení. Firmy je přesto musely prověřovat, což zatěžovalo jejich kapacity. Veřejné služby by se mohly ocitnout v podobné situaci, jen s několikanásobně větším počtem žadatelů a beze změny rozpočtu.
Schmitz v náporu vidí nejen problém, ale i příležitost. Instituce by podle něj měly začít promýšlet, jak své procesy přizpůsobit době, kdy AI pomáhá lidem podávat žádosti. Zároveň bude nutné zachovat kontrolu nad přesností podání a rozlišit oprávněné požadavky od skutečně automatizovaného spamu.