Google pozastavil odměny za chyby v open source kvůli záplavě AI hlášení
Google od 1. října pozastavil svůj program odměn za bezpečnostní chyby v open-source softwaru. Důvodem je podle firmy výrazný nárůst automatizovaných hlášení, z nichž většina není platná.
Program je dočasně pozastavený
Google pozastavil svůj program Open Source Software Vulnerability Rewards Program, v němž bezpečnostní výzkumníci mohli získat odměnu za nalezení zranitelností v open-source softwaru společnosti. Přerušení platí od 1. října. Firma uvedla, že další informace poskytne v prvním čtvrtletí roku 2027.
Pozastavení podle zveřejněného oznámení souvisí s nárůstem automatizovaných podání využívajících umělou inteligenci. Google na síti X i na stránkách programu napsal, že tento nárůst je výrazný a že naprostá většina takových hlášení není platná. Program tak nyní nepřijímá další běžné podněty v dosavadním režimu.
Neplatná hlášení zahltila odborníky
Podle serveru Tom’s Hardware byli inženýři Googlu a správci open-source projektů zahlceni zprávami, které buď nepopisovaly skutečnou zranitelnost, nebo obsahovaly takzvané halucinace. Jde o nepřesné či smyšlené informace, které mohou výstupy umělé inteligence obsahovat. TechCrunch připomíná, že odborníci na kyberbezpečnost už dříve varovali, že nekvalitní podněty vytvořené s pomocí AI mohou představovat vážný problém pro programy odměňující nálezy chyb.
Bezpečnostní programy potřebují odlišit skutečné chyby od nesprávných hlášení. Pokud jich přichází velké množství a většina není použitelná, musí se jimi odborníci zabývat, aniž by každé oznámení vedlo k potvrzenému nálezu. Google uvedl, že právě výrazný příliv automatizovaných podání je důvodem nynější pauzy.
Odměny za skutečné chyby
Smyslem programu bylo motivovat výzkumníky, aby Googlu oznamovali bezpečnostní slabiny v jeho open-source softwaru. Takové programy mohou firmám pomoci získat informace o chybách od lidí mimo vlastní týmy. Podklad ale neuvádí, jaké konkrétní projekty nebo typy zranitelností byly do programu zahrnuté ani kolik hlášení Google dostával.
Z dostupných informací také nevyplývá, že by společnost program definitivně ukončila. Oznámila jeho pozastavení a přislíbila aktualizaci v prvním čtvrtletí příštího roku. Není proto zatím jasné, zda jej následně obnoví, případně zda změní způsob přijímání a vyhodnocování podnětů.
Účastníci mohou využít jiné programy
Google mezitím účastníkům doporučil, aby zvážili zapojení do jeho dalších programů odměn za nalezení bezpečnostních chyb. Článek však neuvádí jejich názvy ani podmínky, takže z něj nelze určit, kterých produktů či oblastí se týkají. Pozastavení popsané v oznámení se vztahuje konkrétně na program pro open-source software.
Případ ukazuje, že automaticky vytvořené bezpečnostní podněty mohou vedle možných užitečných nálezů přinášet také velké množství neplatných zpráv. Google přímo uvedl, že většina automatizovaných podání nebyla platná; neznamená to ale, že každé hlášení vytvořené s pomocí AI je chybné. O tom, jak bude společnost dále s programem nakládat, má napovědět slíbená aktualizace.