OpenRouterがAIエージェントの危険な操作を自動ブロックする新機能「Armor」を発表──「Jev」を活用したセーフティ機能の全貌

結論：AIエージェントの暴走を防ぐガードレール機能「Armor」が登場

さまざまなAIモデルをまとめて利用できるプラットフォーム「OpenRouter」が、AIエージェントによる危険なツールの実行を未然に防止する新機能「Armor」をベータ版としてリリースしました。

AIエージェントがプログラムの実行や外部ツールの呼び出しといった複雑な作業を自動で行う機会が増える中、安全性の確保は喫緊の課題となっています。Armorは、AIモデルとアプリケーションの間に位置する「ツール呼び出し向けのセーフティクラシファイア（安全性分類器）」として機能し、危険な操作を自動的に検知・ブロックする仕組みを提供します。

何が発表・変更されたか：「Armor」の基本構造と動作原理

これまでAIエージェントに指示を与える際、エージェントが予期せぬファイル削除やシステム破壊、機密データの外部送信などの危険なツール操作を行ってしまうリスクが懸念されていました。今回OpenRouterがリリースしたArmorは、AIエージェントが実行しようとする操作を別のAIモデルで事前にチェックし、設定されたルールに違反する操作を自動的にブロックする機能です。

Armorの安全性チェックを担当するエンジンには、TypeSafeが開発した専用のAIモデル「Jev」が使われています。Jevがプロンプトや実行しようとしているツール呼び出しを精査することにより、高精度なガードレールを実現しています。

確認済みの具体情報：ルール設定、互換性、パフォーマンス

Armorには、実用的なセキュリティ運用を可能にするための複数の設定や機能が備わっています。

3段階に分類されるルール定義

Armorにおいて設定できる安全性に関するルールは、大きく以下の3種類に分かれています。

絶対に禁止する操作：いかなる状況でも実行を許容しないルールです。絶対に禁止するルールに該当した操作は、ユーザー（人間）から指示された場合であっても自動的にブロックされます。
原則として禁止する操作：標準状態では制限されるものの、特定の条件や設定に基づいて制御されるルールです。
例外的に許可する操作：通常は制限対象となり得るツール実行であっても、特定の文脈や設定において明確に承認された範囲の操作を許可するルールです。

開発者向けの「監査モード」と処理パフォーマンス

システム導入前のテストや挙動の分析を行いたい開発者のために、Armorには実際に操作をブロックせず判定結果だけを記録する「監査モード」が用意されています。このモードを活用することで、既存のワークフローに影響を与えることなく、安全ルールの妥当性を検証・調整することが可能です。

また、セキュリティチェックを挟むことによる処理遅延（レイテンシ）についても具体的な数値が公表されています。OpenRouterによると、Armorによる安全性チェックで追加される処理時間は、中央値で279ミリ秒、90％の処理が334ミリ秒以内だったとのことです。リアルタイム性が求められる環境でも、実用的な応答速度が維持されています。

Claude Codeとの互換性と「Ori」との連携

Armorは、Claude CodeのAuto mode（自動実行モード）と互換性を持っています。さらに、OpenRouterのAIエージェント実行環境「Ori」を経由することで、様々なAIモデルでClaude Codeの操作承認の仕組みを利用できます。

費用とベータ版の提供状況

Armorは記事作成時点においてベータ版として利用でき、ベータ期間中は安全性の判定に追加料金は発生しません。

なぜ重要か：AIエージェント普及に向けた安全策の明確化

AIエージェントの活用が広がるにつれ、単にテキストを生成するだけでなく、ファイルシステムの変更やAPIの実行など「外部環境に直接影響を与える操作」の割合が高まっています。

プロンプト指示だけに頼るセキュリティ対策では、複雑な命令に対するAIの誤解釈や悪意あるプロンプトを完全に防御することが難しいケースがありました。Armorのように、メインモデルとは別のAIモデル（Jev）がツール呼び出しの直前で独立して割り込みチェックを行う構成は、AIエージェントの自律的な操作を安全に保つうえで極めて重要なステップとなります。

利用者・開発者・企業への影響

開発者や企業にとって、Armorの導入は自社システムやサービスの安全性を高める大きなメリットとなります。「絶対に禁止する操作」を設定しておけば、ユーザーからの指示であってもブロックされるため、意図しない破壊的な操作やセキュリティ侵害の発生リスクを大幅に低減できます。

さらに、監査モードによって実際のブロックを伴わずにログ判定のみを行う運用が可能なため、段階的なセキュリティルールの適用やログ分析が容易になります。

未確定点と今後の注目点

現時点で確認できるのはベータ版としての仕様であり、ベータ期間終了後の料金体系や正式リリース（GA）の時期については公表されていません。また、TypeSafeのモデル「Jev」の詳細な判定基準や対応言語の範囲などについても、今後の追加情報が注目されます。

まとめ

OpenRouterがリリースした「Armor」は、AIエージェントによる危険なツール実行を防ぐ強力なガードレールです。TypeSafeの「Jev」を活用し、追加処理時間を中央値279ミリ秒（90%が334ミリ秒以内）に抑えながら、ユーザーの指示であっても絶対禁止ルールを破らせない堅牢さを備えています。ベータ期間中は追加料金なしで利用できるため、AIエージェント開発における安全対策の標準として活用が広がることが期待されます。