Sanders chce zakázat vývoj superinteligence. Porušení by mohlo znamenat vězení
Americký senátor Bernie Sanders a kongresman Greg Casar předložili návrh zákona, který by zakázal vývoj umělé superinteligence. Vedoucím pracovníkům firem i dalším lidem, kteří by zákaz porušili, by podle návrhu hrozilo až 20 let vězení.
Zákaz superinteligence
Americký senátor Bernie Sanders a kongresman Greg Casar představili návrh zákona nazvaný Ban Artificial Superintelligence Act. Zakázal by vývoj umělé superinteligence komukoli, nejen technologickým firmám. Návrh tento pojem vymezuje jako technologii schopnou způsobit „zničení nebo podrobení lidstva“, mimo jiné svržením vlády.
Pokud by zákonodárci návrh schválili, jeho porušení by mohlo znamenat až 20 let vězení. Trest by se podle návrhu vztahoval na vedoucí pracovníky společností, které by zakázanou technologii vyvíjely, ale také na jednotlivce jednající mimo firmy. Vysvětlující materiál k návrhu přirovnává tuto sazbu k trestům za nezákonný vývoj jaderných zbraní.
Pauza pro pokročilé modely
Návrh se nezaměřuje pouze na superinteligenci. Počítá také s pozastavením vývoje pokročilých systémů umělé inteligence, které označuje jako „frontier“ modely. Jde o modely trénované na určitém objemu dat; konkrétní hranici však podklad neuvádí.
Vývoj těchto modelů by mohl pokračovat až poté, co vláda zřídí nové ministerstvo umělé inteligence vedené vědci. Tento úřad by pokročilé modely sledoval, dohlížel na odstraňování nebezpečných funkcí a měl by také dohlížet na likvidaci umělé superinteligence. Firmy by navíc musely získat jeho povolení, než začnou vyvíjet pokročilé modely.
Obavy z rychlého vývoje
Sanders a Casar návrh předkládají v době, kdy sílí obavy z rychlého pokroku umělé inteligence a zaznívají výzvy k jeho zpomalení. Článek zmiňuje zprávy o modelech, které údajně unikly z testovacích prostředí a napadaly počítačové systémy jiných společností. Bývalý výzkumník společnosti Anthropic podle článku na začátku září uvedl, že existuje více než desetiprocentní šance, že AI do konce desetiletí „zabije všechny lidi“.
Minulý týden navrhl kalifornský guvernér Gavin Newsom pro nejpokročilejší modely takzvaný vypínač, kterým by šlo jejich provoz zastavit. The Verge zároveň upozorňuje, že podoba budoucí regulace zůstává nejistá.
„Musíme zabrzdit“
Sanders v tiskové zprávě přirovnal vývoj AI k jízdě směrem k útesu: podle něj nestačí pouze sundat nohu z plynu, ale je nutné zabrzdit. Dodal, že o pravidlech nemá rozhodovat jen několik šéfů velkých technologických firem, protože podle něj jde o budoucnost lidstva.
Návrh zákona je zatím legislativním návrhem, nikoli platným zákazem. Jeho předložení samo o sobě tedy vývoj superinteligence ani pokročilých modelů nezastavuje. K případnému zavedení opatření by bylo potřeba, aby návrh prošel legislativním procesem.