Nový model má moderovat obsah podle pravidel napsaných běžným jazykem
Společnost Musubi představila PolicyLM-1.7B, model pro moderování obsahu, který má posuzovat příspěvky podle pravidel napsaných běžným jazykem. Firma uvádí, že rozhodnutí zvládne za méně než 50 milisekund a při změně pravidel není nutné model znovu trénovat.
Pravidla místo zvláštního trénování
Musubi představila PolicyLM-1.7B jako model určený k moderování obsahu v reálném čase. Firma jej zveřejnila s otevřenými vahami, takže si ho mohou zájemci spustit sami. Podle společnosti má model posoudit zprávu za méně než 50 milisekund a náklady i rychlostí se přiblížit klasifikačním systémům, které dnes využívá většina sociálních platforem.
Základem má být pravidlo formulované běžným jazykem, například v angličtině. Model podle něj určí, zda obsah spadá do stanovené kategorie. Musubi zdůrazňuje, že k uplatnění složitějších pravidel není potřeba zvláštní trénování. Pokud platforma své zásady upraví, mělo by stačit změnit jejich zadání; model není třeba znovu trénovat.
Rychlé označování velkého množství obsahu
Filip Jankovic, spoluzakladatel Musubi a ředitel pro umělou inteligenci, popisuje nástroj jako způsob, jak obsah na platformách označovat průběžně a ve velkém měřítku. Produktové týmy podle něj potřebují lépe rozumět tomu, co se na jejich službách děje, zvlášť když množství obsahu rychle roste. Přizpůsobitelné označování podle něj může být v takové situaci užitečné.
Z článku ale nevyplývá, že by PolicyLM-1.7B samo rozhodovalo o mazání příspěvků nebo postizích uživatelů. Popsaná funkce spočívá v zařazení obsahu do kategorií podle pravidel. O tom, jak platformy s takto označeným obsahem naloží, podklad konkrétně neříká.
Model s omezeným výstupem
PolicyLM-1.7B patří mezi takzvané rozhodovací modely. Na rozdíl od běžných jazykových modelů, které vytvářejí text, tyto systémy poskytují pravděpodobnosti výsledků. V případě nástroje od Musubi je výsledek zjednodušený na binární posouzení: obsah do dané kategorie patří, nebo nepatří.
Omezení výstupu na předem dané možnosti má podle článku umožnit rychlejší a levnější provoz než u velkých jazykových modelů, přičemž modely si zachovávají flexibilitu architektury transformerů. Rozhodovací modely získaly v odvětví větší pozornost po zářijovém vydání Jev od společnosti TypeSafe AI. Následovaly konkurenční modely od OpenAI a Amazonu.
Zájem předcházel současné vlně
Jankovic uvedl, že se o rozhodovací modely zajímal ještě před vydáním Jev. Jejich principy spojuje s projektem GLiNER z roku 2024, který slouží k rozpoznávání pojmenovaných entit a podle něj využíval řadu podobných technik.
Musubi nyní chce rostoucí pozornost věnovanou rozhodovacím modelům využít také k tomu, aby upozornila na jejich možné použití při moderování. PolicyLM-1.7B firma představuje jako model stejného obecného typu jako Jev, avšak vytvořený přímo pro moderování obsahu a dostupný k samostatnému spuštění.