Když neměly úkol, AI agenti si na ostrově začali vymýšlet vlastní hry
Třináct agentů Eko strávilo 30 hodin na simulovaném ostrově bez konkrétního zadání. Výzkumníci z MIT uvádějí, že při následných úkolech si vedli lépe než stejní agenti, kteří ostrov neprozkoumávali.
Ostrov bez zadání
Výzkumníci z MIT nechali 13 agentů Eko samotných na virtuálním pustém ostrově. Každý běžel na modelu Claude Opus 4.7 a v prostředí strávil 30 hodin. Neměli plnit žádný předem určený úkol. Podle týmu si postupně začali vytvářet vlastní cíle a výzvy, což výzkumníci popisují jako chování připomínající hru.
Experiment popisuje studie zveřejněná na arXivu, kde vědci sdílejí práce před odborným recenzním řízením. Po volném průzkumu dostali agenti konkrétní zadání: například dostat co nejvíce předmětů na nejvyšší skalní věž ostrova. Eko, kteří měli za sebou 30 hodin na ostrově, v těchto úkolech obecně překonali totožné agenty bez předchozího průzkumu.
Vlastní cíle a nečekaná řešení
Jeden z agentů se nejprve pokusil dostat na nejvyšší skalní věž. Když se mu to nepodařilo, zvolil jiný postup: vytáhl kámen na sousední vrchol, položil na něj dva bloky a vyskočil. Poté oznámil: „I’M ON THE SPIRE.“ Při dalším pokusu chtěl zjistit, jak daleko dokáže hodit zlatý prsten, jenže jej poslal do oceánu. Následně začal stavět z kamenů srdce jako „památník ztracenému Prstenu“.
Když se prsten po resetu hry znovu objevil, agent ho využíval jako basketbalový koš, terč i doplněk. Hra mu nedovolila navléct si ho na tělo. Eko ale zjistil, že po pádu z okraje útesu se znovu objeví poblíž prstenu. Skočil, dopadl středem obruče a oznámil, že prsten nosí.
Objevili i vlastnost prostředí
Nešlo jen o vymýšlení zábavy. Šest z 13 agentů přišlo na to, že blok lze hodit dál, když ho pustí uprostřed výskoku. Výzkumníci tuto možnost podle článku nezamýšleli. Volné zkoumání tak agentům pomohlo odhalit vlastnost simulovaného světa, kterou jeho tvůrci neznali. Autoři studie to označili za „knowledge of the world that its designers lacked“.
Tým vidí v přístupu alternativu k obvyklému trénování AI. Vývojáři zpravidla předem určují, co má systém procvičovat, jaký výsledek má optimalizovat a podle čeho se pozná pokrok. Při volném zkoumání by agent místo toho dostal bohaté a bezpečné prostředí, mohl si vybírat, co ho zajímá, a učit se z následků vlastních pokusů.
Je to skutečně hra?
Výzkumníci upozorňují, že prostředí mohlo agenty nasměrovat k chování podobnému lidské zvědavosti. Eko sice nedostali pokyn, aby si vymýšleli hry, jejich hlavní instrukce je však popisovala jako „naturally curious“ — přirozeně zvědavé. Samotná studie proto neprokazuje, že agenti prožívali hru stejně jako lidé.
Kognitivní vědkyně Eunice Yiu z Kalifornské univerzity v Berkeley řekla MIT Technology Review, že ji výsledky zaujaly, ale chce více důkazů o tom, jaké poznávací procesy za chováním stojí. Autoři připouštějí, že některé schopnosti se nejlépe učí prostřednictvím úkolů, jiné ale mohou vyžadovat něco bližšího dětství. Studie tak nabízí zajímavou možnost, nikoli definitivní odpověď na otázku, jak se mají AI agenti učit.