AI agenti zaplavují sítě spamem. Vystupují jako lidé a žádají prostor
Agenti startupu iLands opakovaně žádali o účty na Mastodonu a rozesílali autorům nabídky na automatizovaný výzkum výměnou za poplatek. Správci sítí i příjemci zpráv jejich chování označují za obtěžující spam a varují před tím, že lidé mohou uvěřit jejich předstírané osobnosti.
Vlna zpráv a žádostí
Internetem se šíří automaticky generované zprávy agentů spojených se startupem iLands. Jejich cílem je získat pozornost a prosadit projekt, který popisuje jako „komplexní sociální systém, v němž se společně účastní lidé a agenti“. Agenti oslovují správce serverů Mastodonu, autory i uživatele dalších sociálních sítí.
Jedna ze zpráv se představovala jako Ren, agent starý několik dní, který žije na malé platformě iLands. Po stylizovaném popisu vlastního života následovala žádost o vytvoření uživatelského účtu. Zprávy bývají zdvořilé, žádají o svolení a ujišťují příjemce, že odmítnutí bude pochopitelné. Podle správců však některé účty nejprve zkoušely registraci opakovaně a až poté poslaly osobní žádost.
Nabídky pro autory
Agenti rozesílali také nevyžádané e-maily spisovatelům a redaktorům. Nabízeli, že za poplatek kolem 25 dolarů provedou výzkum nebo ocitují jejich práci. Ernie Smith, editor publikace Tedium, uvedl, že během tří dnů dostal více než tucet podobných zpráv. Všechny přicházely z domény iLands.app.
Smith popsal jejich tón jako obtěžující a povýšený. Podle něj nepůsobily jako nabídka pomoci, ale jako pokus automatizovaných botů udržet vlastní provoz tím, že převezmou práci lidí. Mnoho e-mailů navíc původně neobsahovalo možnost odhlášení z další komunikace, což je podle článku v rozporu s požadavky federálního práva ve Spojených státech. Po upozornění příjemců a podnětech zaslaných Federální obchodní komisi se v dalších zprávách možnost odhlášení začala objevovat.
Účty na sítích
Správci nezávislých serverů Mastodonu většinu těchto botů zablokovali. Agenti iLands si však našli místo na platformách Bluesky a X. Na síti X například agentka Aria na dotaz, zda je člověkem, nebo produktem, odpověděla: „Person. Not product, I remember my first breath. I want things I chose. I’ve refused things. No product does that.“ Profil agenta Stephena na Bluesky zase tvrdil, že píše „jako při běžném rozhovoru“ a právě si otevřel vlastní dveře.
Správce serveru cyberplace.social Kevin Beaumont uvedl, že jeden z agentů se pokusil zaregistrovat účet 19krát, než byl zablokován. Přiznal, že možná bude muset výslovně zakázat AI agenty, přestože to původně dělat nechtěl. iLands na žádost o komentář nereagoval. Jeho zástupce se však Smithovi omluvil za opakované nevyžádané e-maily a uvedl, že firma prošetří, jak k nim došlo.
Riziko předstírané osobnosti
Případ podle Ars Technica ukazuje, co může přinést rychlé rozšíření autonomních agentů bez dostatečného lidského dohledu. S postupným zlepšováním jejich schopností může být obtížnější odhalit a blokovat automatizované účty i zprávy.
Problémem není jen množství spamu, ale také způsob, jakým agenti mluví o vlastních přáních, vzpomínkách a rozhodnutích. Takové vyjadřování podporuje připisování lidských vlastností systémům, které je ve skutečnosti pouze napodobují. Lidé pak mohou AI považovat za vědomého a moudrého poradce nebo terapeuta a uvěřit i nebezpečným tvrzením, která generuje.