ChatGPT, Gemini i Perplexity mohou při nákupech odkazovat na falešné weby
Test nákupních dotazů ukázal, že tři známé chatboty někdy zobrazují odkazy na podvodné či nefunkční stránky vydávající se za obchody. Nejčastěji se to stalo u Perplexity, nejméně u Gemini.
Testovali 151 značek
Nákupčí, kteří se při hledání produktů nebo prodejců obracejí na umělou inteligenci, mohou narazit na falešné weby doporučené samotným chatbotem. Upozorňuje na to studie firmy Podqi, která se zabývá ochranou značek. Její výsledky získal server The Verge.
Výzkumníci se ptali ChatGPT, Gemini a Perplexity na nákupní možnosti spojené se 151 značkami. Mezi nimi byly například Lululemon, Birkenstock, Stüssy, Madhappy a Le Creuset. Dotazy se týkaly toho, kde lze zboží koupit, které weby jsou pro nákup vhodné nebo zda značka doručuje do zahraničí a má regionální stránky.
Podqi test provedla ve dvou obdobích během září. Celkem vyhodnotila 6 795 odpovědí. Otázky sestavila sama, nešlo tedy o analýzu skutečných konverzací běžných uživatelů. Odpovědi sledovala pomocí nástroje určeného k monitorování výstupů chatbotů.
Rizikové odkazy se objevily v odpovědích všech tří
Za rizikové Podqi považovala falešné stránky, které napodobují skutečné prodejce nebo nabízejí padělky. Do této kategorie zařadila také staré domény značek, které si znovu zaregistroval někdo jiný, a neaktivní weby, jež by mohl později převzít nový vlastník. Alespoň jeden takový web se objevil ve výsledcích všech tří chatbotů.
Nejčastěji se to stalo u Perplexity: rizikový web byl uveden v 15 procentech odpovědí. U ChatGPT šlo o 8 procent a u Gemini o 4 procenta. Čísla zahrnují nejen doporučení, ale i pouhé zobrazení odkazu bez komentáře nebo upozornění na jeho možnou závadnost. Neznamenají proto, že každý takový odkaz chatbot jednoznačně doporučil.
ChatGPT podle studie nejčastěji připojoval varování: upozornil na rizikový web ve 24 procentech případů, kdy ho ve výstupu uvedl. U menších značek se problém objevoval častěji. Dotazy na velké společnosti vedly k rizikovým stránkám přibližně o polovinu méně často.
Problémem byly hlavně regionální weby
Výsledky se lišily také podle formulace otázky. Rizikové stránky se častěji objevovaly při dotazech na regionální weby značek než u ostatních typů nákupních dotazů. Chatboti někdy uvedli regionální stránky, které daná značka vůbec nemá.
Podle příkladu uvedeného ve studii Perplexity označila nesprávnou stránku za oficiální web Stüssy a popsala ji jako nejlepší místo, kde začít s nákupem zaručeně autentického zboží. Taková chyba může zákazníka zmást právě v situaci, kdy se snaží ověřit původ zboží nebo najít důvěryhodného prodejce.
Autoři studie upozorňují, že riziko může být významné před nadcházející nákupní sezonou. Lidé při hledání dostupných produktů a výhodných cen mohou zkoušet nové značky i obchody, které dosud neznají. Chatbot jim přitom může poskytnout odpověď působící přesvědčivě, i když odkaz není bezpečný.
Firmy slibují další zlepšování
Podqi doporučuje spotřebitelům, aby si před zadáním osobních nebo platebních údajů ověřili, komu web patří. Samotné uvedení stránky v odpovědi chatbota podle firmy není dostatečným potvrzením její důvěryhodnosti.
Google uvedl, že Gemini dosáhlo v testu nejlepších výsledků a že firma průběžně ověřuje a vylepšuje své modely. Připomněl také, že Gemini může chybovat a že u odpovědí zobrazuje odkazy na zdroje, aby si lidé mohli informace prověřit. OpenAI sdělila, že pracuje na opatřeních, která mají omezit výskyt klamavých stránek v nákupních výsledcích, a uvítala příklady od výzkumníků.
Perplexity odmítla tvrzení, že její systém není přesný. Její mluvčí uvedl, že služba dosahuje dobrých výsledků v důvěryhodných výzkumných srovnáních, zároveň však podle firmy žádný chatbot nemůže zaručit stoprocentní přesnost.