Mistral představuje model s bilionem parametrů, zatím ale bez veřejných vah
Francouzská společnost Mistral AI uvedla model Mistral Large 4, který má konkurovat otevřeným i uzavřeným systémům. Zatím je dostupný jen přes veřejný endpoint s bezpečnostními omezeními; zveřejnění vah firma plánuje po dokončení testování.
Model s bilionem parametrů
Mistral AI představila Mistral Large 4 (ML4), svůj nový multimodální model. Firma jej staví jako evropskou alternativu k uzavřeným systémům amerických společností i otevřeným modelům, z nichž řada vzniká v Číně. Francouzský prezident Emmanuel Macron tento přístup popsal jako „třetí cestu v AI“.
Model má podle Mistralu bilion parametrů. Právě kvůli jeho velikosti mu firma přezdívá Le Chonk. Označení otevřený model však zatím není zcela přesné: ML4 dosud není dostupný s veřejnými vahami, které umožňují model provozovat či upravovat mimo infrastrukturu jeho tvůrce.
Váhy chce firma zveřejnit později
V současnosti lze ML4 používat pouze prostřednictvím veřejného endpointu s bezpečnostními omezeními. Mistral plánuje zpřístupnit jeho váhy za tři týdny, až dokončí bezpečnostní testování. Do té doby chce spolupracovat s důvěryhodnými partnery a vládami. Viceprezident pro vědu Pierre Stock uvedl, že cílem je umožnit využití modelu k obraně, nikoli k provádění škodlivých útoků.
Bezpečnostní rizika podle článku v posledních měsících stále více zajímají podniky a instituce, které tvoří významnou část zákaznické základny Mistralu. Stock zároveň upozornil na výhodu otevřených vah: odborníci mohou model snáze kontrolovat a auditovat. Jejich zveřejnění tak podle firmy přináší přínosy, ale zároveň vyžaduje opatření proti zneužití.
Vývoj na vlastním výpočetním výkonu
Mistral tvrdí, že ML4 natrénoval výhradně na vlastním výpočetním zázemí. Použil k tomu 4 000 grafických procesorů Nvidia. Stock tento počet označil za dva- až třikrát nižší než u čínských konkurentů a výrazně nižší než u tvůrců uzavřených modelů.
Výsledky benchmarků zatím nejsou k dispozici. Mistral přesto očekává, že ML4 bude patřit k nejlepším modelům s otevřenými vahami, zejména mimo Čínu. Firma také doufá, že v některých konkrétních oblastech překoná uzavřené modely. Jde o předpoklad, který bude možné posoudit až po zveřejnění srovnávacích výsledků.
Cílí na finance i návrh čipů
Mezi oblasti, pro které má být ML4 optimalizovaný, Stock zařadil kyberbezpečnost, finance a návrh čipů. Právě poslední oblast může být důležitá pro některé investory Mistralu. Nizozemská společnost ASML vedla investiční kolo Series C a Samsung vedl Series D, kterou firma uzavřela minulý měsíc při ocenění 21 miliard eur, tedy přibližně 24,39 miliardy dolarů.
Mistral už dříve zdůrazňoval, že provozování čínských modelů neznamená, že se chce stát pouze poskytovatelem výpočetního výkonu. S ML4 chce zároveň potvrdit, že zůstává vývojářem pokročilých modelů. To, zda se mu podaří dohnat či předstihnout konkurenci, však zatím kvůli chybějícím benchmarkům nelze ověřit.