推論エンジン

AIエージェントの動作をローカル環境で高速化する、オープンソースの新しい推論エンジン「Magnitude」が公開されました。特定の条件下で「llama.cpp」の最大約2倍の速度を記録し、多様なハードウェアに対応します。