TypeSafeがJevを発表 テキストではなく高速な判断のためのSystem Oneモデル

TypeSafe AIは、初のSystem Oneモデル「Jev」を早期アクセスで発表した。LLMのように文字列を生成する代わりに、ソフトウェア内の判断（分類、ルーティング、ガードレール）に対して構造化された回答と確率を返す。同種のタスクでは、LLMを使う経路より遅延とコストがはるかに低いとしている。同社によると、Jevは自由形式のテキストを出力しないため段落をでっち上げることがなく、質問を並列に評価して、コードがそのまま利用できる出力を返す（LangChainとtao.mediaの報道は二次的なもの）。これはJev／System Oneの発表であり、新しいチャットボットでも、LLMの完全な置き換えでもない。

出典: TypeSafe AI

AIの支援により翻訳しました。