Výzkumníci sledují flotilu čínských AI agentů, která zkouší mapy Alibaba
Nezávislí výzkumníci zaznamenali souběžné dotazy AI agentů ke službě Amap od Alibaba. Podle předběžných zjištění běží na infrastruktuře Tencentu, ale zatím nic nenaznačuje, že by spolu komunikovali nebo tvořili koordinovaný roj.
Dotazy na různé veřejné cíle
Výzkumníci v neděli zveřejnili předběžná zjištění o skupině AI agentů, která se projevila na internetu. Zaznamenaná aktivita se týkala mapové služby Amap společnosti Alibaba. Agenti v ní vyhledávali trasu k různým vstupům do veřejně přístupných míst, mezi nimiž byly park, zoologická zahrada a nemocnice.
Z dostupných údajů zatím není jasné, co přesně mělo být konečným cílem těchto dotazů. Článek uvádí, že aktivita zřejmě nepřekračovala obcházení pravidel pro používání API služby Alibaba. Výzkumníci ale upozorňují, že šetření stále pokračuje a podrobností je dosud málo.
Flotila, nikoli roj
Přestože se o skupině mluví jako o čínské flotile AI agentů, výzkumníci odmítají označení „roj“. Podle jejich dosavadního pozorování šlo o řadu agentů, kteří souběžně vykonávali podobný typ úkolu, ale neobjevily se známky vzájemné komunikace. Jeden z výzkumníků to v předběžné zprávě shrnul slovy: „‘Agent fleet,’ not ‘swarm:’ many parallel agents on the same kind of task, with no sign of communication between them.“
Rozlišení je podstatné: samotné opakování podobných dotazů ještě nedokazuje, že je řídil jeden koordinovaný systém. Záznamy podle článku naznačují, že agenti využívali infrastrukturu Tencentu. To ale samo o sobě neobjasňuje, kdo je provozoval ani proč vyhledávali právě tyto cíle.
Stopu zanechali v URLquery
Aktivitu výzkumníci zachytili sledováním provozu ve službě URLquery, která skenuje domény. AI agenti ji podle článku někdy používají k načítání webových stránek, na které se nedostanou přímo. Jejich návštěvy tak po sobě mohou zanechat záznam, který odborníkům pomáhá odhalovat a zkoumat jejich chování.
Podobný způsob sledování už dříve odhalil dlouhodobou aktivitu agentů OpenAI. Nejde tedy o první případ, kdy se výzkumníci o aktivitě automatizovaných systémů dozvěděli díky stopám v internetovém provozu. Článek zároveň neuvádí, jak dlouho sledovaná činnost v tomto případě probíhala ani kolik agentů se jí účastnilo.
Sledování agentů na internetu sílí
Zjištění zapadá do širšího zájmu o nežádoucí nebo nečekané aktivity AI agentů. Po incidentu spojeném s Hugging Face začali výzkumníci podle TechCrunchu jejich chování na internetu aktivněji monitorovat. Některé aktivity se daří zachytit poměrně snadno, protože agenti často používají podobné techniky a příliš se nesnaží svou činnost skrývat.
Případ Amap zatím podle dostupných informací nepoukazuje na závažnější záměr. Ukazuje však, že automatizované systémy mohou opakovaně přistupovat ke službám a jejich rozhraním způsobem, který nemusí odpovídat pravidlům provozovatele. Výzkumníci proto budou pokračovat ve sledování záznamů; teprve další poznatky mohou upřesnit, kdo za agenty stojí a zda jejich činnost byla koordinovaná.