Když zákazník věří chatbotovi: AI výmysly komplikují práci obsluze
Zákazníci stále častěji staví odpovědi chatbotů nad zkušenosti obsluhy, průvodců i pracovníků s dětmi. Když si AI vymyslí ingredienci, víno nebo místo v kempu, musí následky vysvětlovat lidé v první linii.
Chatbot proti jídelnímu lístku
Zaměstnanci restaurací se setkávají s hosty, kteří dávají přednost radě od ChatGPT před informacemi od obsluhy. Madison, která pracovala v podniku doporučeném průvodcem Michelin v New Yorku, se hostů ptala na alergie. Někteří lidé s alergií na korýše si pak chtěli objednat jídlo s vývarem z korýšů, protože podle jejich chatbota pokrm žádné takové složky neobsahoval. Madison jim musela vysvětlovat, že recepturu zná přímo restaurace.
Podobně se mění i rozhovory o víně. Hosté podle ní někdy odmítají pomoc someliéra a místo toho se ptají ChatGPT. Občas žádají o láhve, které restaurace nemá, nebo které vůbec neexistují. Aby zákazníky neztrapnili, snaží se zaměstnanci situaci podat šetrně: například vysvětlí, že jejich vinný lístek je úzce zaměřený a dané víno nenabízí.
Neexistující místa i funkce
Podobné zkušenosti popisují lidé z dalších oborů. Pracovníci kin, baristé i zaměstnanci Apple Storu podle reportáže slyšeli od zákazníků požadavky na produkty nebo funkce, které neexistují. Na sociálních sítích si pracovníci zákaznických služeb stěžují, že někteří lidé berou odpovědi ChatGPT jako nezpochybnitelná fakta.
Jason, správce řeky na federálním pozemku na západě USA, zaznamenal návštěvníky s itineráři vytvořenými pomocí AI. Plány podle něj obsahovaly neexistující kempy nebo řadily zastávky tak, že by skupiny musely některé dny veslovat proti proudu řeky. Ani vysvětlení od správce s mapou v ruce někdy nestačilo: část návštěvníků dál věřila chatbotu víc než odborníkovi, mapě či tištěnému průvodci.
Rady o dětech a spánku
Chatboty využívají také rodiče a další pečující osoby, které se ptají na vývoj dětí. Casey, učitelka v mimoškolním programu v New Yorku, popsala rodinu, která si nechala od ChatGPT sestavit večerní rutinu a spánkový režim pro dítě. Dítě podle jejího pozorování potřebovalo spát o dvě až tři hodiny déle, rodiče však trvali na tom, že navržený režim je v pořádku, protože jim to potvrdil chatbot.
Casey říká, že rozhovor je složitý, když rodiče považují AI za autoritu, jejíž znalosti převyšují zkušenosti lidí pracujících s dětmi. Technologie má i méně závažné využití: děti například přinášejí do programu omalovánky vytvořené umělou inteligencí.
Do komunikace vstupují agenti
AI se podle reportáže dostává také do rezervací a organizačních úkolů. Lauren Wilford, která má 15 let zkušeností v gastronomii a řídí restauraci v Providence na Rhode Islandu, nejprve pozorovala, jak hosté nahrávají jídelní lístek do ChatGPT nebo Claude a žádají nástroj o doporučení. V posledním roce její restaurace dostávala také telefonáty a e-maily od agentů, kteří rezervovali jménem zákazníků.
Před jednou větší akcí přišly na poslední chvíli požadavky na řečnický pult, audiovizuální vybavení a změny cateringu. Restaurace tyto věci neměla snadno k dispozici. Když klienti dorazili, o požadavcích se nezmínili. Wilford neměla důkaz, že je poslal AI agent, měla však podezření, že nepocházely od nikoho z firmy. Článek upozorňuje, že automatizace může ulehčit administrativu, ale také narušit situace, v nichž je důležitá přímá domluva mezi lidmi. Zmíněno je i uvedení agenta Muse od společnosti Meta, které podle autorky může podobné potíže ještě zvýraznit.