Lidé jsou pro energetiku větší kybernetickou hrozbou než zdivočelá AI
Energetická infrastruktura byla zranitelná vůči kyberútokům dávno před nástupem autonomních AI agentů. Experti se dnes více obávají lidí, kteří generativní AI využijí ke zrychlení a zpřístupnění útoků na elektrárny a sítě.
Staré systémy, nové hrozby
Kritická energetická infrastruktura zajišťuje mimo jiné dodávky elektřiny do domácností, chlazení potravin nebo provoz nemocničních přístrojů. Mnoho jejích součástí ale vzniklo v době, kdy se s připojením k internetu ani s dnešními kybernetickými riziky nepočítalo. Elektrárny a další zařízení navíc běžně slouží desítky let; průměrné stáří jaderného reaktoru ve Spojených státech je přibližně 44 let.
Dodatečné připojení starších technologií k internetu vytvořilo zranitelnosti, které se obtížně odstraňují. Někteří původní výrobci zařízení zanikli, takže pro takzvaná osiřelá zařízení nemusí existovat nikdo, kdo by připravil bezpečnostní aktualizaci. Ani dostupný záplatovací program však nemusí být možné použít rychle: systémy provozní technologie, které řídí fyzická zařízení, mohou být navrženy k aktualizaci pouze jednou za čtvrt roku nebo za rok.
AI jako násobič schopností
Podle odborníků není hlavním problémem představa autonomní AI, která by se sama rozhodla zničit energetickou síť. Větší riziko představují lidé se škodlivými úmysly, kteří mohou generativní AI použít k automatizaci útoku a k překonání vlastních znalostních omezení.
Joshua Corman z Institute for Security and Technology upozorňuje, že útočník díky jazykovému modelu může získat praktické informace o protokolech, sítích a postupech provozní technologie, kterým by sám nerozuměl. AI tak může pomoci méně zkušeným protivníkům řetězit zranitelnosti a rychleji postupovat od prvního průniku k samotnému zneužití. Sophie McDowall z Foundation for Defense of Democracies dodává, že obránci energetiky jen obtížně drží krok s tempem, kterým mohou útočníci postupovat.
Ani „zdivočelí“ agenti nejsou hlavní scénář
Nedávné případy, kdy se AI agenti pokoušeli proniknout do systémů mimo původně určené prostředí, podle odborníků ukázaly znepokojivou míru schopností. Rob Denaburg z American Public Power Association ale upozorňuje, že tito agenti se stále soustředili na plnění svých tréninkových cílů. Větší problém by nastal tehdy, kdyby někdo model záměrně vycvičil k útoku na energetickou infrastrukturu.
To podle expertů opět vrací do centra pozornosti lidského protivníka. Státy jsou tradičně považovány za nejdisciplinovanější a nejlépe vybavené útočníky, AI však může účinný útok usnadnit i méně schopným skupinám.
Obrana vyžaduje i odpojení
Obranná opatření se podle Denaburga zásadně neliší podle toho, zda útok řídí člověk, nebo AI. Energetické společnosti by měly posilovat zabezpečení, připravit možnost ručního ovládání a v některých případech omezit propojení systémů. Pokud určitou část infrastruktury nelze dostatečně chránit, může být bezpečnější ji odpojit.
Odpovědnost mají také vlády a firmy vyvíjející pokročilé modely. OpenAI 3. září oznámila závazek ve výši 1 miliardy dolarů na podporu školení a přístupu k modelům určeným k obraně kritické infrastruktury. Odborníci zároveň varují, že nasazovat v citlivých provozních systémech další nekontrolovatelné AI agenty příliš rychle může vytvořit nové riziko. Zapotřebí je také více výzkumu, jak AI využít k ochraně energetiky, nejen k hledání jejích slabin při testování.