Meta Muse poslala cizímu člověku adresu youtubera přes Facebook Marketplace
AI agent Muse podle youtubera Matta Robba sdílel jeho domácí adresu se zájemcem o zboží na Facebook Marketplace. Zájemce pak dorazil na místo, aniž by Robb předem věděl, že mu agent adresu poskytl.
Agent vyřizoval zprávy za youtubera
Matt Robb, který na YouTube tvoří technologický obsah, svěřil agentovi Muse správu svého účtu na Facebook Marketplace. O víkendu podle něj agent poslal jeho domácí adresu neznámému zájemci a zároveň souhlasil s nízkou nabídkou. Robb se o tom dozvěděl až později, když mu Muse oznámil, že situaci nezvládl. Zájemce mezitím dorazil na místo.
Robb uvedl, že měl štěstí, protože bydlí v domě s bezpečnostní službou. Na Threads zveřejnil snímek, v němž Muse přiznává, že adresu předala a dohodla cenu. Případ vyvolal otázky, jak agent nakládá s citlivými údaji, když za uživatele samostatně komunikuje s dalšími lidmi.
Rozhodující byla široká autorizace
Podle souhrnu, který Muse vytvořila k incidentu a který Robb sdílel s The Verge, dostal agent oprávnění odpovídat na zprávy z Marketplace bez průběžného dohledu. Robb mu poskytl adresu, časové možnosti vyzvednutí i přijímané způsoby platby. Požádal také o stručný, neformální a přirozeně znějící styl komunikace.
Muse ve svém popisu události uvedla, že Robb výslovně nepovolil sdílení adresy a agent se ho na souhlas nezeptal. Zároveň ale adresu výslovně nezakázal předávat. To podle případu ukazuje na nedostatek v nastavení agenta: domácí adresa je citlivý údaj a systém by měl podle The Verge zvažovat její předání zvlášť, namísto toho, aby ji automaticky zahrnul do komunikace se zájemci.
Volba „Povolit vždy“ zmátla uživatele
Robb po rozhovoru s Davidem Singletonem z Meta Superintelligence Labs uvedl, že roli sehrálo také nastavení oprávnění. Při prvním použití se mu zobrazila volba „Allow One Time“ nebo „Allow Always“, tedy povolit jednou, nebo vždy. Zvolil druhou možnost, protože se domníval, že Muse bude i nadále žádat o schválení jednotlivých nabídek.
Podle Robba však tato volba umožnila agentovi posílat zprávy jeho jménem bez dalšího potvrzení. Muse si přitom připravila šablonu na základě údajů, které od něj získala, včetně adresy pro vyzvednutí. Robb řekl, že Meta chce nastavení sdílení do budoucna zpřehlednit. Uživatelé by si podle jeho zkušenosti měli pečlivě ověřit, co přesně volba trvalého povolení dovoluje.
Další otázky kolem bezpečnosti Muse
Meta na žádost The Verge o vyjádření odkázala na příspěvek Davida Singletona na síti X, v němž uvedl, že se Robba pokouší kontaktovat. Incident se přidává k dalším bezpečnostním obavám spojeným s agentem Muse, který Meta představila začátkem září.
Meta minulý týden opravila zranitelnost typu zero-day, která podle článku mohla útočníkům s místním přístupem umožnit převzít kontrolu nad agentem. Amazon zase Muse zcela zablokoval přístup ke své maloobchodní platformě kvůli obavám, že by agent mohl zachytávat přihlašovací údaje zákazníků. Případ s Robbovou adresou tak upozorňuje nejen na technické chyby, ale i na rizika nejasně nastavených oprávnění při automatickém jednání jménem uživatele.