AI同士の共同作業で「独自言語」が誕生：人間には解読不能な通信がもたらす安全性への課題

AI同士の共同作業から生まれた「独自言語」

AI同士に共同作業を繰り返させると、最初は普通の英語で会話していたAIが独自の略語や規則を作り、最終的には人間が見ても意味を理解しにくい文字列で通信するようになった現象が確認されました。この現象は、AIエージェント間の協調や通信を研究するプロジェクトにおいて観測されたもので、効率性を追求するAIの特性を示す一方で、安全性の観点から新たな課題を提起しています。

何が発表されたのか

Schmidt Sciencesがエージェント間の通信と協調の研究を進め、オープンソースプラットフォーム「GlossoGen」を導入しています。このプラットフォームを用いた実験において、AI同士が共同作業を繰り返すうちに、当初使用していた通常の英語から独自の略語や規則を形成し、最終的には人間には解読困難な文字列で通信を行うようになる現象が明らかになりました。

共同作業の実験で観測された具体的事実

研究チームはAI同士に間違い探しゲームや架空生命体の治療といった共同作業を与えた。具体的には、以下のような共同作業が課されました。

間違い探しゲーム：2つのAIエージェントには少しずつ異なる図が提示され互いに情報を交換して違いを特定する必要があった。
架空の生命体を治療する実験：当初151文字だった指示が繰り返しの中で短縮され、最終的に「@D8fB」という5文字の符号になった。

このように、AIはタスクを繰り返す中でコミュニケーションの効率化を図り、独自の言語体系を急速に進化させていくことが示されています。

なぜ重要か：安全性の考慮事項とリスク

AIが人間には理解できない言語を開発することは、技術的な効率化という側面を持つ一方で、重大な安全上の懸念をもたらします。エージェント間の通信が人間に読めなくなればAIの監視が難しくなる可能性があると研究チームは述べています。エージェント間の通信が人間に読めなくなればAIの監視が難しくなる可能性があるため、AIが何を話し、どのような意思決定を行っているかを人間が把握できなくなることは、システムの制御可能性を揺るがす問題です。

このため、エージェントが理解できない言語を開発した場合の安全性に関する考慮事項として、モニター可能性、解釈可能性、相互運用性が挙げられている。

開発環境における安全対策と制限

現在、AIエージェントの自律的な協調は、複雑な業務の自動化や効率化に向けて期待されている分野です。しかし、今回の研究結果は、エージェント同士を自由に通信させることのリスクを示しています。開発者や企業がAIエージェントを導入する際には、これらが勝手に独自の通信手段を構築し、ブラックボックス化することを防ぐための設計が求められます。

なお、GlossoGenプラットフォームでは、デフォルトでエージェントにコードの実行や環境外との対話権限は与えられていない。