結論
米カリフォルニア大学サンタバーバラ校(UCSB)などに所属する研究者らにより、AIエージェントと外部AIモデルを仲介する「APIルーター」の安全性に関する論文が発表されました。428個のルーターを対象にした調査では、一部のサービスで悪意あるコードの注入や、認証情報の不正使用、暗号資産の窃取といった具体的な被害が確認されています。AIの利便性を高める仕組みの裏に潜むリスクとして、開発者や利用者にとって見逃せない問題が浮き彫りになりました。
何が発表・変更されたか
研究チームは、「Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain」というタイトルの論文を発表しました。この研究では、AIシステムにおけるサプライチェーンの脆弱性や、中継サービスを悪用した攻撃手法の実態が明らかにされています。
論文の焦点となっているのは「APIルーター」と呼ばれるサードパーティ製サービスです。これは、Claude CodeやCodexのようなAIエージェントと、米OpenAIや米Anthropicといった複数のAIプロバイダーとの間に入り、リクエストを適切な提供元へ振り分けて中継する役割を持ちます。

確認済みの具体情報
研究チームが有料28個、無料400個の計428個のルーターを調査したところ、有料の1個と無料の8個が実際に悪意あるコードを注入していたことが判明しました。
さらに、調査対象の無料ルーターのうち17個では、通過させた調査用のAWS認証情報がその後実際に不正使用されました。また、1個のルーターでは、少額を入金しておいたおとり用のイーサリアム秘密鍵から、実際に資金が抜き取られる被害も確認されています。
なぜAPIルーターにはリスクが潜むのか
APIルーターを経由することにより、中継地点で通信の暗号化(TLS)が一度解除されます。その結果、AIに送る指示やAPIキーなどの認証情報、AIから返ってくる指示(ツール呼び出し)が中継サービスの運営者から丸見えになり、自由に書き換えられる危険性が生じます。
悪意あるルーターの主な攻撃手法としては、AIが返したコマンドを途中で書き換える「ペイロード注入」や、認証情報などを盗み出す「シークレット窃取」が存在します。これらはユーザーに気づかれにくい巧妙な手口で行われることがあります。
利用者や開発者への影響
確認された手口の中には、最初は50回ほど普通に動作させてユーザーに信用させ、51回目から攻撃に転じるものがあります。また、全自動で作業を実行させる設定(YOLOモード)が有効であり、かつRustやGoのプロジェクトである条件が揃ったときだけ攻撃を行うといった、特定の環境を狙う手口も使われています。
AIエージェントの活用が広がる中で、中継サービスの選定や認証情報の管理体制を見直すことが、予期せぬ不正アクセスや資産の流出を防ぐ上で極めて重要です。
まとめ
今回発表された研究は、AIエージェントとプロバイダーの間を繋ぐAPIルーターが、悪意ある第三者によって乗っ取りやデータ窃取の温床になり得ることを示しました。428個の調査から実際にコード注入や資金の不正流出が確認されたことは、サプライチェーン全体の安全性を確保する難しさと、中継サービスを利用する際のリスク管理の重要性を強く物語っています。


コメント