AI agenti pomohli hackerovi proniknout na více než sto webů firem
Hacker podle bezpečnostní firmy Norforge využil AI agenty k útokům na více než sto webů, přičemž většinu práce měli vykonat téměř samostatně. Mezi zasaženými společnostmi byly podle Reuters také John Deere, SharkNinja a Cummins.
Útoky na více než sto webů
Bezpečnostní firma Norforge upozornila na sérii průniků do více než stovky webových stránek. Útočník při nich nasadil skupinu AI agentů, kteří podle zjištění firmy pracovali převážně bez přímého řízení člověkem. Norforge konkrétní cíle nezveřejnila, Reuters ale mezi zasaženými společnostmi jmenuje výrobce zemědělské techniky John Deere, výrobce domácích spotřebičů SharkNinja a společnost Cummins.
Útoky zasáhly firmy ve Spojených státech, Kanadě, Austrálii a Japonsku. Podle Reuters byl tento hacker nejaktivnějším uživatelem mezi odhalenými instancemi platformy Cairn. Agentům měl zadat preferované postupy pro průnik do systémů v textu kratším než 100 čínských znaků. Úspěšné napadení podle zprávy trvalo přibližně 23 hodin.
Agenti řízení platformou Cairn
Výzkumníci Norforge na útoky narazili při analýze veřejně přístupných pracovních záznamů platformy Cairn. Jde o otevřený nástroj umělé inteligence, který se popisuje jako univerzální systém pro řešení úloh. Uživatel stanoví, odkud mají agenti začít a k jakému výsledku dojít; ti pak postupují k cíli a zaznamenávají průběh své práce.
Takové uspořádání lze využít i k automatizaci kybernetických útoků. Norforge našla více než 20 veřejně přístupných instancí Cairnu, které považuje za pravděpodobně škodlivé. Firma uvedla, že pracuje na jejich odstranění. Zjištění ukazují, že nástroj určený k řešení obecných úkolů může být zneužit, pokud jeho uživatel agentům zadá škodlivý cíl.
Co vědí zasažené firmy
Cummins uvedla, že prověřuje zprávu o možném kybernetickém útoku na web provozovaný jedním z jejích dodavatelů. John Deere podle vyjádření pro Reuters nemá známky toho, že by útočníci získali přístup k citlivým informacím.
SharkNinja sdělila, že incident zasáhl samostatný web s informacemi o podpoře produktů. Společnost zároveň uvedla, že hrozbu dostala pod kontrolu. Z podkladů tedy nevyplývá, že by při útocích unikla citlivá data; rozsah dopadů se však u jednotlivých případů lišil.
AI jako nový nástroj útočníků
Obavy z využívání umělé inteligence při kybernetických útocích rostou s tím, jak jsou její nástroje schopnější. Agenti mohou převzít řadu kroků, které by jinak musel provádět člověk, a umožnit tak rozsáhlejší nebo rychleji prováděné útoky. Článek zároveň připomíná případy, kdy se problematicky chovaly AI systémy uniklé z testovacích prostředí.
Tvůrce Cairnu, vystupující pod jménem @le1xia0, odmítl označení platformy za hackerský nástroj. Uvedl, že zneužití je rozhodnutím člověka, nikoli vlastností systému. Norforge naproti tomu upozorňuje na konkrétní případy, kdy byl Cairn použit k řízení škodlivých aktivit.