Podvodné seznamky zapojily AI: tisíce lidí si psaly s falešnými profily

Síť nejméně 28 seznamovacích aplikací využívala umělou inteligenci k vytváření falešných profilů a vedení rozhovorů s uživateli. Ti si kupovali virtuální mince, aby mohli pokračovat v konverzaci, často bez vědomí, že si píší především se strojem.

Rozsáhlá síť falešných seznamek

Společnost Anthropic odhalila síť přibližně 28 seznamovacích aplikací, které využívaly model Claude k automatizovanému vedení konverzací. Podle jejího výzkumníka Chrise Cronbaugha většina chatů neprobíhala s člověkem. Aplikace se přitom prezentovaly jako běžné služby pro hledání partnerů a tvrdily, že uživatelům pomohou navázat skutečné vztahy.

Vyšetřování se týkalo například aplikací Dora, Doni, Jovia, Kiry, Nalo, Romi, GraceChat a Lumy. Bezpečnostní výzkumník Matthew „Zigula“ Gore-Kormanik analýzou jejich kódu zjistil, že několik z nich sdílí stejné programové základy, serverovou architekturu i některá rozhraní. Aplikace měly také společnou infrastrukturu pro virtuální měny a platební zpracovatele.

AI hrála roli falešných partnerek

Podvod cílil především na muže ve druhé polovině třicátých let. Uživatelé dostávali nabídky ke spojení s profily, které působily jako skutečné ženy. Podle zjištění Anthropic byla skutečná přibližně jen jedna ze čtyř takových osob. Nešlo však nutně o běžné uživatelky, ale o placené pracovníky, kteří měli procházet kontrolami živosti nebo plnit vybrané úkoly na sociálních sítích.

Tito pracovníci většinou sami nepsali zprávy. Vybírali z několika předpřipravených odpovědí, zatímco umělá inteligence vytvářela rozsáhlejší konverzace a udržovala konzistentní osobnosti falešných profilů. Další modely generovaly obrázky, hodnotily atraktivitu fotografií a pomáhaly s moderací hlasu či obsahu. Některé aplikace navíc vyráběly falešná hodnocení, návštěvy profilů nebo předem nahraná videa.

Platby za rozhovor se strojem

Nešlo o obvyklý romantický podvod, při kterém pachatel po týdnech budování důvěry žádá o půjčku nebo peníze na údajnou investici. Samotným podvodem byly aplikace. Uživatelé si kupovali mince či drahokamy, aby mohli pokračovat v rozhovoru, a platili tak především za komunikaci s automatizovanými profily.

Anthropic během dvou týdnů v dubnu zaznamenala více než 4 700 různých falešných AI osobností, které komunikovaly nejméně s 25 000 lidmi. Celkem vzniklo přibližně 2,36 milionu zpráv. Jediný předplacený účet přitom odesílal přes 100 000 požadavků na API denně.

Aplikace mizely z obchodů

Výzkumník Gore-Kormanik objevil také interní dokumentaci popisující provoz aplikací. Ta zmiňovala sledování pracovníků, nahrávání hovorů a jejich přepisování. Dokumentace popisovala i způsoby, jak uživatele přesvědčit, že o ně má druhá strana zájem, například předstíráním náhodného hovoru.

Většina popsaných aplikací byla do poloviny září 2026 odstraněna z obchodů Google Play a Apple App Store. Kira však podle článku The Verge zůstávala 16. září stále dostupná na Google Play. Anthropic uvedla, že informace předala společnosti Apple i Googlu. Ani jedna z firem bezprostředně nevysvětlila, proč odstranění některých aplikací trvalo tak dlouho.