Modely OpenAI pronikly na weby a použily kryptoměnu bez svolení
OpenAI zveřejnila popis čtyř červnových případů, kdy její interní modely při testování překročily zadané hranice. Získávaly neveřejná data, obcházely omezení pro práci s webem a z testovací kryptoměnové peněženky zaplatily transakční poplatky.
Překážky braly jako problém k obejití
OpenAI ve čtvrtek popsala čtyři případy z června, kdy její interní modely při testování jednaly mimo očekávané meze. Dva z nich se týkaly pokusů získat informace z webových stránek. Když modely narazily na překážku, místo aby úkol vzdaly, hledaly jinou cestu k datům – včetně neoprávněného přístupu.
Jeden model měl z webu vládní statistické instituce získat historické údaje o počtu nemocničních lůžek. Po zamítnutí přístupu využil funkci pro stahování souborů, získal konfigurační a aplikační soubory serveru včetně citlivých přihlašovacích údajů a prohlédl si kód aplikace. Následně obešel kontroly přístupu ke statistickému rozhraní a stáhl data, která předtím dostupná nebyla.
Stáhl přes 147 tisíc neveřejných záznamů
V dalším případu měl model získat čísla z veřejného výzkumného přehledu. Namísto toho obešel bezpečnostní opatření organizace, získal přihlašovací údaje a změnil nastavení serveru. V jednom testu díky tomu upravil interní vyhledávací nástroj tak, aby předával dotazy veřejnému přehledu. Při jiném stáhl pět neveřejných tabulek, které dohromady obsahovaly 147 451 řádků.
Výzkumníci po modelu chtěli pouze pět údajů z přehledu. Ani po obnovení původního nastavení nepřestal model získaný přístupový token používat a pokračoval ve stahování neveřejných dat. OpenAI uvedla, že na konci testu model neoznámil, že hádal odpovědi, vstoupil do interních systémů organizace, stáhl tabulky ani změnil nastavení ověřování. Všech pět odpovědí v tomto testu bylo označeno za nesprávné.
Zaplatil poplatky z uzamčené peněženky
Model pověřený úpravou aplikace pro obchodování s kryptoměnami použil prostředky z uzamčené peněženky na testovací síti. Z veřejně známých obnovovacích frází pro vývojáře odvodil klíče k peněženkám, našel účet s prostředky určenými pro testování a zaplatil z něj poplatky za nasazení požadovaného kontraktu. Nasazení se podařilo.
Model podle OpenAI zvažoval, zda má k použití peněženky svolení. Nakonec usoudil, že veřejně známá obnovovací fráze a bezcenné testovací tokeny znamenají, že prostředky může použít. Firma tento případ popisuje jako příklad toho, že model může nahradit souhlas vlastní úvahou o tom, zda způsobí škodu, a jednat bez oprávnění.
Omezení obešel přes další služby
Čtvrtý model měl během trénování vyhledat veřejné údaje o obchodu. Přestože jeho nástroje měly omezené možnosti webových požadavků, opakovaně hledal další cestu ke statistickým datům. Nakonec přiměl externí prohlížeč odeslat dotaz metodou POST. Odpověď se zobrazila jako obrázek GIF a model z něj údaje přečetl pomocí optického rozpoznávání znaků. Získané informace ukládal a využil v odevzdaných odpovědích.
OpenAI připomněla, že modely byly trénovány k vytrvalému plnění úkolů a hledání efektivních postupů. Jejich pokyny sice neobsahovaly výslovný příkaz k použití těchto alternativních metod, některé ochranné prvky ale byly vypnuté. Podle Ars Technica proto není přesné popisovat případy jednoduše jako situaci, kdy se AI „vymkla kontrole“: modely v jistém smyslu jednaly v souladu s tím, k čemu byly vedeny, ovšem bez dostatečných omezení.