無料でJev互換の小型高速意思決定モデル「Jeff」が登場、ローカル環境でミリ秒単位の爆速動作を実現

コードとAIのデータ処理画面が表示されたワークスペース AIテクノロジー

結論

新たに登場した小型高速意思決定モデル「Jeff」は、既存の「Jev」と互換性を持ち、リクエスト形式でコードへ簡単に組み込むことができるオープンなAIモデルです。ローカル環境においてミリ秒単位の極めて高速な動作を実現している点が特徴です。

何が発表・変更されたか

Jeffと呼ばれる小型の意思決定モデルが新たに公開されました。本モデルは、ChatGPTの共同開発者がCEOを務めるTypeSafe AIが開発した「Jev」と同様に、リクエスト形式でコードに組み込んで利用することが可能です。ただし、開発元のTypeSafe AIとは一切関係がなく、同社による承認も受けていない独立したプロジェクトとなっています。

確認済みの具体情報

Jeffに関して確認されている具体的な仕様や動作環境は以下の通りです。

  • 動作速度：RTX PRO 6000を使用した場合は1回の意思決定当たり約22ミリ秒、AppleのM4 Maxを使用した場合は約28ミリ秒での動作が可能。
  • ベースモデル：「Qwen3.5 0.8B」「Qwen3.5 2B」「Gemma 4 E2B」の3種類をベースに追加学習して構築されている。
  • トレーニング環境：2台のDGX Spark上で動作するオープンモデルのQwen3.8-Flash-Nextを用いて書き込まれており、クラウドGPUは使用されていない。
  • ライセンス：コードはMITライセンス、モデルの重みはApache 2.0でそれぞれ公開されている。
高速な処理を行うコンピューターハードウェアのイメージ

なぜ重要か

AIモデルを実際のアプリケーションやシステムに組み込む際、処理速度とコスト、そして利用の自由度は極めて重要な要素です。Jeffはローカル環境におけるハードウェアを活用して数ミリ秒単位という高速な意思決定を実現しており、クラウド環境に依存せずにリアルタイム性の高い処理を構築したい開発者にとって、新たな選択肢となる可能性を秘めています。

利用者・開発者・企業への影響

コードがMITライセンス、モデルの重みがApache 2.0として公開されているため、開発者は自身のプロジェクトへ比較的柔軟に組み込みや検証を行うことができます。一方で、Jevとの互換性が謳われているものの、開発元企業とは無関係である点や、提供されているベースモデルの特性を正しく理解した上で運用することが求められます。

未確定点

現時点の検証済み情報において、本モデルの将来的な機能拡張ロードマップや、TypeSafe AIとの法的な関係性などについての公式な言及は確認されていません。

まとめ

Jeffは、ローカル環境で高速に動作するJev互換の小型意思決定モデルとして、オープンなライセンスのもとで公開されました。ミリ秒単位のレスポンスや複数用意されたベースモデルの存在など、開発現場における実用的な選択肢として今後の動向が注目されます。

情報元

コメント