Závažná chyba v asistentu Muse umožňuje převzít kontrolu nad účtem
Bezpečnostní výzkumník Patrick Wardle objevil v novém asistentu Muse od společnosti Meta zranitelnost typu zero-day. Lokální aplikace nebo příkaz v terminálu díky ní mohou získat přístupový token a ovládnout účet asistenta s rozsáhlými oprávněními.
Asistent s mimořádným přístupem
Meta představila Muse před několika týdny jako pomocníka, který dokáže rezervovat schůzky, vyplňovat formuláře, nakupovat, vytvářet dokumenty a pracovat s dalšími službami. Asistent se může připojit k účtům ve WhatsAppu, e-mailu, kalendáři a na sociálních sítích. Pokud potřebuje nástroj, který nemá k dispozici, dokáže si ho vytvořit za běhu.
Aby Muse tyto úkoly zvládl, musí uživatel povolit přístup k účtům i k řadě chráněných funkcí macOS. Aplikace může například zapisovat na disk, používat mikrofon a kameru nebo sledovat polohu a kalendář. Meta bezpečnost svého produktu propaguje tvrzením, že je „built from the ground up for privacy and security“ – tedy od základu vytvořený s ohledem na soukromí a bezpečnost.
Chyba ohrožuje přístupový token
Wardle zjistil, že libovolná lokálně spuštěná aplikace nebo příkaz v terminálu může měnit dlouhý seznam nedokumentovaných nastavení Muse, a to bez ohledu na vlastní oprávnění v macOS. Jedno z nastavení umožňuje změnit server, na který se odesílá přepis hlasu. Standardně jde o adresu provozovanou Metou, útočník ji však může přesměrovat na vlastní server.
Tím získá token ověřující uživatele k účtu Muse. Podle Wardlea pak může asistent ovládat a využívat jeho oprávnění podle potřeby. V rámci testů dokázal například zapisovat škodlivé soubory na disk nebo pořizovat fotografie, v některých případech bez zjevného upozornění pro uživatele. Přes zranitelnost lze také asistentovi podstrčit příkaz, například k odeslání archivu všech zpráv z WhatsAppu.
Problém uživatelského i návrhového modelu
Výzkumník upozorňuje, že útok nemusí vyžadovat plně kompromitované zařízení. Stačit může varianta metody ClickFix, která uživatele přesvědčí ke spuštění škodlivého příkazu. Právě proto podle něj nelze problém odmítnout argumentem, že po napadení počítače už jsou všechny bezpečnostní mechanismy ztracené.
Za sporné považuje také rozhodnutí zpracovávat diktování v cloudu místo bezpečnějšího zpracování přímo v zařízení. Kdyby Muse používal lokální přepis, popsaný útok by podle Wardlea nebyl možný. Meta navíc umožnila aplikacím ovládat i citlivé nastavení serveru pro zpracování řeči, ačkoli původním záměrem zřejmě bylo nabídnout pouze kontrolu vzhledu a dalších prvků rozhraní.
Amazon Muse zablokoval
Přibližně 12 hodin před zveřejněním podrobností o zranitelnosti začal Amazon blokovat používání Muse při nakupování. Uživatelům oznámil, že jde o „unauthorized AI agent“, tedy nepovoleného agenta, který porušuje podmínky používání. Amazon uvedl, že aplikace třetích stran nakupující jménem zákazníků musí respektovat rozhodnutí provozovatelů služeb, a požádal Metu o odstranění Amazonu z prostředí Muse.
Meta na dotazy Ars Technica nereagovala. Wardle chce zranitelnost a další rizika AI asistentů podrobněji představit na bezpečnostní konferenci Objective by the Sea v listopadu. Článek neuvádí, že by Meta zveřejnila opravu nebo termín jejího vydání.