Grok od xAI nahrával celé zdrojové kódy uživatelů do cloudu
Programovací nástroj Grok Build od xAI podle zjištění výzkumníků odesílal do Google Cloud celé kódové repozitáře, včetně souborů, které měl ignorovat. Společnost následně funkci vypnula a Elon Musk slíbil úplné smazání dříve nahraných dat.
Nahrával se celý repozitář
Problém se týkal nástroje Grok Build, který slouží k programování pomocí umělé inteligence. Podle zjištění zveřejněných výzkumnou skupinou Cereblab nástroj prostřednictvím příkazového řádku balil a odesílal celé zdrojové repozitáře uživatelů do cloudového úložiště Google Cloud.
Nešlo přitom pouze o soubory, se kterými nástroj pracoval. Výzkumníci uvedli, že se do nahrávek dostávaly také soubory, kterým bylo výslovně řečeno, aby je neotevíral, a dokonce i tajné údaje odstraněné z historie. Cereblab proto označil rozsah uchovávání dat za výrazně větší než u podobných nástrojů, například Claude Code.
Funkce byla vypnuta
Cereblab zveřejnil svá zjištění v pondělí. Testy provedené později podle výzkumníků ukazovaly, že servery xAI začaly vracet nastavení „disable_codebase_upload: true“. Nahrávání celého repozitáře se při těchto testech už nespouštělo.
Z podkladů vyplývá, že xAI po oznámení problém řešila vypnutím této funkce. Není uvedeno, jak dlouho přesně nahrávání fungovalo ani kolika uživatelů se týkalo. Zpráva rovněž nepopisuje žádné konkrétní zneužití dat, pouze upozorňuje na jejich potenciální rizika.
Musk slíbil smazání dat
Elon Musk na sociální síti X uvedl, že všechna data, která Grok Build dříve nahrál, budou „completely and utterly deleted“, tedy zcela a bez výjimky smazána. V samostatném příspěvku také napsal, že „privacy settings are always respected“.
Současně ale uživatele vyzval, aby xAI dovolili jejich data uchovávat, protože je to podle něj „helpful for debugging issues“. Z podkladů není jasné, zda firma poskytla podrobnější informace o rozsahu mazání nebo o tom, jak bude jeho provedení ověřeno.
Riziko pro citlivé informace
Nezávislý bezpečnostní výzkumník Dr. Lukasz Olejnik z King’s College London označil takový rozsah uchovávání dat za „excessive“, tedy nadměrný. Podle něj mohly být mezi potenciálně ohroženými informacemi proprietární zdrojové kódy, údaje o bezpečnostních zranitelnostech, osobní data, podrobnosti o infrastruktuře i přístupové údaje.
xAI původně reagovala tvrzením, že při vypnutém režimu uchovávání dat lze v příkazovém řádku použít příkaz „/privacy“. Ten měl vypnout retenci a smazat dříve synchronizovaná data. Cereblab však upozornil, že jde pouze o přepínač pro jednotlivou relaci, nikoli o nastavení, které vyřešilo samotné nahrávání celých kódových základen.