Šéf Y Combinatoru chce, aby americké AI modely napodobovaly lídry trhu
Garry Tan z Y Combinatoru odmítá, aby regulátoři zakazovali americkým laboratořím využívat destilaci při trénování vlastních modelů. Podle něj by otevřené modely mohly posílit konkurenci a zabránit tomu, aby pokročilá umělá inteligence skončila u jediné firmy.
Tan volá po volnějším přístupu
Garry Tan, výkonný ředitel startupového akcelerátoru Y Combinator, se zastal amerických laboratoří, které vyvíjejí takzvané open-weight modely. Tyto systémy zveřejňují své váhy, tedy část informací potřebných k jejich fungování, a uživatelé i vývojáři je mohou snáze upravovat nebo provozovat mimo infrastrukturu původního poskytovatele.
Tan reagoval na debatu o čínských laboratořích, které podle Anthropic využívají destilační techniky k získávání znalostí z pokročilých modelů. V rozhovoru pro CNBC na otázku, jak by měli reagovat regulátoři, uvedl: “I would do nothing.” Dodal také, že by podle něj mohl vzniknout „American distillation regime“, tedy režim umožňující podobné využití americkým firmám.
Co znamená destilace
Při destilaci jeden model opakovaně zadává dotazy jinému modelu a z jeho odpovědí se učí, jak pracuje a jak postupuje při řešení úloh. Jde o běžnou a legitimní techniku, kterou laboratoře používají při trénování nových systémů.
Spor se týká především toho, zda lze tuto metodu používat bez souhlasu provozovatele původního modelu. Anthropic tento týden zveřejnil druhou zprávu, v níž čínské laboratoře obvinil z „illicit distillation attacks“. Podle společnosti měly skrývat svou identitu, využívat podvody a odcizené přihlašovací údaje. Šéf Anthropic Dario Amodei už dříve vyzval americké úřady k přísnějšímu postupu.
Přístup přes přední dveře
Tan neobhajuje krádeže účtů ani zneužívání cizích přihlašovacích údajů. Chce, aby americké open-weight laboratoře mohly k modelům předních vývojářů přistupovat otevřeně a za jasně stanovených podmínek.
Podle něj je příliš omezující, když výrobci modelů určují, co mohou zákazníci dělat s informacemi získanými prostřednictvím API. Tan zároveň připomíná, že proprietární laboratoře při trénování svých systémů využily rozsáhlé množství lidských znalostí a autorských děl, často bez svolení držitelů práv. Z toho vyvozuje, že přístup k inteligenci vytrénované na široce dostupných datech by měl mít více rysů veřejného statku.
Obava z jediné dominantní firmy
Tan nechce oslabit vývoj nejpokročilejších modelů. Podle jeho vyjádření mají frontier laboratoře dál posouvat hranice oboru a současně zůstat financovatelným byznysem. Otevřené modely však podle něj lidem poskytují svobodu a širší přístup k technologiím.
Za nejhorší scénář považuje situaci, kdy by veškerá síla pokročilé AI skončila u jediného proprietárního poskytovatele. Taková firma by podle něj mohla díky kapitálu a nejlepším výzkumníkům ostatní konkurenty výrazně předběhnout a vytvořit monolitické postavení. Destilace by v Tanově pojetí mohla pomoci udržet rovnováhu mezi uzavřenými lídry a širší nabídkou amerických otevřených modelů.