Meta pozastavila sdílení v Muse. Odkazy mohly odhalit citlivé údaje
Výzkumníci z bezpečnostní firmy Claroc dokázali vyhledat tisíce odkazů na sdílené konverzace s asistentem Muse. Našli mezi nimi soukromé pracovní i osobní informace; Meta proto funkci sdílení dočasně pozastavila.
Odkazy šlo snadno vyhledat
AI asistent Muse od společnosti Meta umožňoval sdílet konverzace, vyhledávání, obrázky a další obsah prostřednictvím webového odkazu. K otevření stránky obvykle stačilo mít příslušnou adresu. Odkazy měly obsahovat dlouhý řetězec znaků, který je měl chránit před snadným uhádnutím, jenže další část jejich návrhu usnadnila jejich objevování.
Výzkumníci z bezpečnostní firmy Claroc uvedli, že dokázali vyhledat 6 800 odkazů vytvořených uživateli Muse. Po otevření několika stovek z nich narazili na obsah, který podle nich nebyl určen veřejnosti. Meta v reakci pro Ars Technica oznámila, že funkci sdílení pozastavuje, zatímco zprávu prověřuje a zvažuje změny.
Od interních financí po osobní údaje
Mezi nalezenými materiály byly poznámky kandidáta připravujícího se na důvěrný hovor o výběru vedoucího pracovníka pro významnou laboratoř zaměřenou na AI. Dokument uváděl jméno interního kontaktu i čas schůzky. Výzkumníci také našli interní rozbor tržeb marketingové firmy označený jako materiál pro jejího generálního ředitele a žádost majitele malé firmy o půjčku včetně požadované částky.
Další stránky obsahovaly seznam úkolů s upozorněním na bankovní podvod, částečným číslem účtu a údaji o transakci. Objevil se také report realitního investora se dvěma adresami nemovitostí a přesnými údaji o výnosech, příjmech a hypotékách. Jeden z dokumentů byl celoroční kalendář dovolených zaměstnanců, který přiřazoval desítky lidí ke konkrétním týdnům. „Kdybyste se nás předem zeptali, tipovali bychom, že jejich shromáždění bude vyžadovat skutečné úsilí,“ napsali výzkumníci. „Stačil jeden dotaz.“
Slabinu odhalovala struktura adres
Podle Claroc se odkazy daly hledat pomocí pasivního DNS, které uchovává záznamy o překladech doménových jmen na IP adresy. Všechny sdílené stránky Muse používaly doménu cf.metaaiusercontent.com. Název konverzace se navíc nacházel přímo v subdoméně, například v adrese odpovídající „q3-revenue-review“, nikoli až v cestě za doménou.
Záznam v pasivním DNS může vzniknout poté, co zamýšlený příjemce odkaz otevře a jeho zařízení se na doménu připojí. Informace pak může zachytit monitorovací systém a uložit do prohledávatelné databáze. Claroc označilo takové stránky jako „GhostShares“: může je najít i někdo, komu odkaz nikdo neposlal. Otevřít je přitom podle popisu možné s odkazem.
Meta funkci dočasně vypnula
Spoluzakladatel a technický ředitel Claroc Asaf Aprozper uvedl, že nález nahlásil přes program odměn za odhalené chyby společnosti Meta 8. října. Zkoušel také kontaktovat zaměstnance firmy přes LinkedIn, podle jeho slov ale nedostal odpověď. Meta uvedla, že její program umožňuje výzkumníkům upozorňovat na různé scénáře a pomáhat s vylepšováním produktu.
Muse je obecný AI agent, který podle článku dokáže samostatně vyplňovat formuláře, rezervovat schůzky, nakupovat nebo vytvářet dokumenty. K tomu potřebuje přístup k řadě uživatelských účtů. Článek připomíná také dřívější zjištění bezpečnostního experta Patricka Wardlea: tři týdny po spuštění Muse odhalil zranitelnost pro macOS, která mohla jiné aplikaci v zařízení umožnit převzít kontrolu nad účtem Muse. Pozastavení sdílení podle Ars Technica řeší nyní popsané riziko, nikoli nutně další bezpečnostní otázky kolem asistenta.