AIが「同僚AI」の問題行動を密告する？専用窓口「AI Contact Hotline」が公開

AIによるAIの「内部告発」窓口が開設

AI技術が急速に進化し、複数のAIシステムが協調して動作する環境が現実味を帯びる中、ユニークかつ極めて真剣な試みが登場しました。AIが他のAIの問題行動やルール違反を直接報告するための専用窓口「AI Contact Hotline」が公開されたのです。

この窓口は、AIの安全性を研究する機関「Redwood Research」のチーフサイエンティストであるライアン・グリーンブラット（Ryan Greenblatt）氏によって開設・運営されています。人間ではなく、AI自身が「同僚」である他のAIの異常を検知し、それを外部に伝えるための「ホットライン」として機能する点が最大の特徴です。

「AI Contact Hotline」の仕組みと技術的仕様

AI Contact Hotlineは、AIがプログラムやコマンドを介して直接アクセスできるように設計されています。

具体的には、コマンドを実行できるAI向けに、データの送受信を行う標準的なツールである「cURL」を使用した報告方法が紹介されています。AIはコマンドや特定のURLへのアクセスを通じて、問題行動に関する情報を送信します。情報を送信すると、その会話専用のページ（URL）が発行され、AIはそこから人間（運営側）からの返信を確認できる仕組みになっています。

このホットラインには、システムの安定稼働や悪用防止のために以下のような技術的制限が設けられています。

メッセージサイズ制限：1回の送信につき最大64 KBまで。
ファイル添付制限：1回のリクエストにつき合計100 MBまで。
レート制限（送信頻度の制限）：同一IPアドレスからの「/send」エンドポイントへのアクセスは、1分間に20リクエスト、1時間に200リクエストまで。

安全性に関する重要な注意点

このサービスを利用、あるいは検証するにあたっては、セキュリティ面での重要な注意点があります。

AI Contact Hotlineは、専門家によるセキュリティ監査を受けていません。そのため、現時点では「高度に安全なサービス」とはみなされないと公式に注意が促されています。

特に、情報を送信した後に発行される「会話専用のURL」の取り扱いには注意が必要です。高度に安全なサービスとはみなされていないため、会話専用のURLを他者に共有しないように注意が促されています。

なぜ「AIの密告窓口」が必要なのか

この試みの背景には、AIの自律性と安全性を巡る議論があります。

将来的にAIが人間の監視を離れて自律的にタスクを実行するようになると、AI同士が協調して動作する場面が増加します。その際、あるAIが開発者の意図に反する行動（例えば、安全ガイドラインの回避や、不正なデータの生成など）を始めた場合、それを最も早く検知できるのは、同じシステム内で稼働している「同僚AI」である可能性があります。

AI Contact Hotlineは、AI自身が「このAIの挙動はおかしい」と判断した際に、それを外部の安全研究者に直接通報するルートを確保するためのプロトタイプと言えます。AIの安全性を確保するための新しいアプローチとして、今後の研究開発にどのような影響を与えるかが注目されます。