Hugging Face přechází u jazykových modelů na směrování přes OpenRouter
Hugging Face spojil síly s OpenRouterem, který bude nově vybírat poskytovatele pro požadavky na jazykové modely. Má při tom zohledňovat cenu, rychlost i spolehlivost a při výpadku zkusit jinou službu. Uživatelé mohou dál používat stejný kód, změní se ale práce s vlastními klíči k poskytovatelům.
Jeden požadavek, více poskytovatelů
Hugging Face oznámil partnerství s OpenRouterem, které má zjednodušit používání modelů s otevřenými váhami. Ty vycházejí na Hugging Face Hubu, zatímco OpenRouter zajišťuje jejich provoz u více poskytovatelů. Nově bude přes jeho směrování procházet každé volání jazykových modelů v rámci služby Inference Providers. Uživatel se přitom může dál připojovat svým tokenem Hugging Face a používat dosavadní kód.
OpenRouter má pro každý požadavek vybrat poskytovatele podle aktuální kombinace ceny, rychlosti a spolehlivosti, nikoli pouze podle nejnižšího ceníkového poplatku. Pokud první pokus selže, systém požadavek automaticky zopakuje u dalšího vhodného poskytovatele. Podle měření OpenRouteru jeho nové směrování snížilo chyby způsobené nedostatečnou kapacitou o 46 procent. Čas do prvního tokenu se zlepšil o 16,9 procenta a propustnost o 16,3 procenta.
Otevřené modely získávají na popularitě
Hugging Face a OpenRouter uvádějí, že podíl otevřených modelů na celkovém počtu tokenů zpracovaných OpenRouterem vzrostl z 26,8 procenta v říjnu 2025 na 71,7 procenta na konci září 2026. V červenci dosáhl 77,5 procenta. Týdenní objem provozu otevřených modelů se za sledované období zvýšil více než šedesátkrát, zatímco u uzavřených modelů téměř desetinásobně. Nejvyužívanějším modelem OpenRouteru byl v týdnu zveřejnění DeepSeek V4.1 Flash 1017, který zpracoval 59,2 bilionu tokenů.
Otevřené modely jsou podle dat v průměru zhruba čtyřikrát levnější. Milion vstupních tokenů stojí průměrně 0,28 dolaru a milion výstupních 1,62 dolaru; u uzavřených modelů jde o 1,27, respektive 6,36 dolaru. V nejnáročnějších testech však nejlepší otevřené modely stále zaostávají za nejlepšími proprietárními. Kimi K3.1 Pro získal v Artificial Analysis Intelligence Index skóre 46, zatímco Claude Fable 5.2 dosáhl 65. Cena za úlohu byla podle zdroje 3,68 dolaru oproti 26,54 dolaru.
Ceny zůstávají, mění se práce s klíči
Hugging Face tvrdí, že samotná cena se změnou směrování nemění: uživatel platí cenu daného poskytovatele přes svůj účet Hugging Face a služba k ní nepřidává přirážku. Předplatitelé PRO mají měsíčně k dispozici kredity v hodnotě 2 dolarů; organizacím s plánem Team nebo Enterprise náleží 2 dolary na každé místo. Stejný token lze využít také pro úložiště Storage Buckets, výpočetní službu Jobs a dedikované inference prostředí Inference Endpoints.
Novinkou je možnost určit způsob směrování přímo v identifikátoru modelu. Přípona „:fastest“ upřednostní propustnost, „:cheapest“ nejnižší cenu a přípona se jménem poskytovatele, například „:novita“, omezí volání na něj. Uživatelé mohou také jednotlivé poskytovatele vypnout v nastavení. Směrování navíc zohledňuje mezipaměť promptu: konverzace má zůstat u poskytovatele, který ji uchovává.
Obrazové služby zůstávají beze změny
Změna se týká jazykových modelů. Generování obrázků, videa a zvuku bude nadále fungovat přímo přes Hugging Face Inference Providers, stejně jako dosud, a zůstane dostupné se stejným tokenem i API. Nadále mají být přístupné také desítky tisíc LoRA modelů.
Důležitou změnou je konec používání vlastních API klíčů k poskytovatelům u jazykových modelů. Požadavky se nyní účtují na účet uživatele nebo organizace u Hugging Face. Vlastní klíče pro obrazové a video služby fungují dál. OpenRouter podle oznámení obsluhuje přes 800 bilionů tokenů měsíčně pro více než 10 milionů uživatelů a směruje požadavky mezi více než 600 modely od přes 80 poskytovatelů. Partnerství má pokračovat propojením účtů OpenRouteru s Hugging Face a rozšířením úloh, které budou přes službu směrovány.