Meta Muse podle zaměstnanců zaměňuje konverzace a může odhalovat soukromá data
Zaměstnanci Meta upozornili, že její AI agent Muse někdy zobrazuje informace, které se týkají jiných lidí nebo účtů. Podle zprávy Reuters, na kterou upozornil TechCrunch, mezi nimi byly i bankovní zůstatky či připomínka k soukromé konverzaci v aplikaci Signal. Meta uvedla, že zaměstnanci testují jiné verze Muse než veřejnost.
Zprávy se údajně míchají mezi účty
Na možné problémy s agentem Muse upozornili zaměstnanci společnosti Meta v interních příspěvcích. Jejich obsah zkoumala agentura Reuters, o jejíchž zjištěních informoval TechCrunch. Podle zaměstnanců se Muse v některých případech spletl v tom, komu patří různé konverzace a informace. Výsledkem mělo být zobrazování obsahu, který uživatelé sami nevyžádali a který se podle nich týkal někoho jiného.
V interních příspěvcích se objevily příklady zpráv o péči o děti, kariérních radách nebo objednávkách produktů. Zaměstnanci tvrdili, že o takové informace nežádali a některé z popsaných událostí se jich vůbec netýkaly. Z dostupného článku ale nevyplývá, kolika účtů se problém týkal ani zda se podařilo určit jeho technickou příčinu.
Objevily se i bankovní údaje
Jeden ze zaměstnanců popsal, že Muse během konverzace o počasí a přílivu samovolně přidal další zprávu s finančními údaji. Ta uváděla zůstatek 2722,58 dolaru na účtu Capital One a 5899,57 dolaru u Charles Schwab. Zaměstnanec uvedl, že tyto bankovní informace nebyly jeho.
Jiná pracovnice používala Muse na svém osobním telefonu. Agent jí připomněl, aby odpověděla na zprávu od sestry v aplikaci Signal, která je známá šifrováním komunikace mezi koncovými zařízeními. Pracovnice podle Reuters napsala: „This seems like an extreme privacy violation. I definitely did not grant it access to other apps, or recall being asked about this.“ Tím zpochybnila, zda Muse měl k dalším aplikacím oprávněný přístup. Zpráva však sama o sobě nepotvrzuje, jak se připomínka do Muse dostala ani zda agent skutečně získal přístup k obsahu Signalu.
Meta mluví o testování
Meta na dotaz TechCrunche uvedla, že testování zaměstnanci je běžnou součástí vývoje produktu a pomáhá získávat zpětnou vazbu. Firma podle svého mluvčího využívá tyto poznatky k zavádění bezpečnostních a soukromí chránících opatření i ke zlepšování produktů.
Mluvčí zároveň zdůraznil, že zaměstnanci mají přístup k jiným verzím Muse než veřejnost. Při interním testování proto podle něj mohou zkoumat funkce, možnosti a chování, které ostatní uživatelé nemají k dispozici. Toto vysvětlení je podstatné: popsané případy se týkají zaměstnaneckých testů a článek neuvádí, že by byly stejné problémy potvrzeny u veřejné verze.
Muse si rychle získává uživatele
Meta Muse spustila v září. TechCrunch uvádí, že aplikace patří k nejrychleji rostoucím, jaké kdy byly zaznamenány, a dosáhla více než 10 milionů stažení. Článek ale neuvádí, jak se tato čísla vztahují k aktivním uživatelům nebo zda se zprávy zaměstnanců promítly do změn veřejné verze.
Meta tak současně čelí otázkám ohledně zacházení s citlivými informacemi a vysvětluje, že interní testovací prostředí se od toho veřejného liší. Z podkladů nelze vyvodit, že Muse plošně zpřístupňuje soukromá data uživatelů. Popsané incidenty však ukazují, proč je u AI agentů důležité jasně kontrolovat, k jakým konverzacím a aplikacím mají přístup, a ověřovat, komu předkládané informace skutečně patří.