OpenAI zrychluje GPT-5.6 Sol. Režim Ultrafast slibuje až 750 tokenů za sekundu
OpenAI představilo režim Ultrafast, který má výrazně urychlit práci modelu GPT-5.6 Sol. Společnost uvádí rychlost až 750 výstupních tokenů za sekundu, novinka je však zatím dostupná jen omezenému počtu zákazníků.
Výrazně rychlejší zpracování
OpenAI uvedlo nový režim Ultrafast, jehož cílem je zvýšit rychlost nejnovějšího a podle společnosti nejvýkonnějšího modelu GPT-5.6 Sol. Oproti standardnímu zpracování má pracovat až čtrnáctkrát rychleji a generovat až 750 výstupních tokenů za sekundu.
Tokeny jsou jednotlivé části textu, které jazykový model vytváří při komunikaci s uživatelem. V praxi má tedy Ultrafast zkrátit dobu čekání na odpověď nebo dokončení úkolu. OpenAI novinku popisuje jako posun od dosavadního přístupu, kdy byla pro rychlou odezvu často nutná volba menšího či specializovaného modelu.
Zatím jen v omezeném náhledu
Režim Ultrafast je nyní uvolňován v předběžné verzi a přístup k němu má pouze malá skupina zákazníků. OpenAI plánuje dostupnost postupně rozšiřovat podle toho, jak se bude zvyšovat kapacita potřebná k provozu služby.
Na technologii se podílí výrobce čipů Cerebras, s nímž OpenAI spolupracuje. Z podkladů není jasné, kdy bude Ultrafast dostupný širší veřejnosti ani zda bude součástí běžně používaného ChatGPT.
Využití ve firmách
OpenAI vidí pro rychlejší variantu GPT-5.6 Sol uplatnění především ve firemních procesech. Zmiňuje například řešení bezpečnostních incidentů, zákaznický servis a podporu, analýzu finančních trhů nebo elektronický obchod.
V těchto oblastech může být rychlost důležitá například při zpracování velkého množství požadavků nebo při reakci na události, kde je potřeba odpověď v reálném čase. Samotné představení režimu ale neuvádí podrobnosti o jeho ceně, limitech ani o tom, jak se rychlost projeví u různě složitých úkolů.
Rychlost jako nový souboj
OpenAI není jedinou firmou, která se snaží nabídnout rychlejší provoz umělé inteligence. Konkurenční Anthropic už uvedl u svého modelu Claude režim Fast. TechCrunch však uvádí, že tato varianta nedosahuje rychlosti, kterou OpenAI slibuje u Ultrafastu.
Nový režim tak staví na kombinaci výkonného modelu a rychlejšího hardwarového zázemí. Zda se slibované parametry promítnou do běžného používání, bude možné lépe posoudit až po rozšíření náhledu na více zákazníků. Do té doby zůstává Ultrafast omezenou ukázkou nové strategie OpenAI, která chce nabídnout více práce za jednotku času, nikoli pouze menší a rychlejší model.