「Copilot、Word文書まとめて」に潜む罠。勝手に増殖する「AIワーム」の脅威と対策

はじめに：AIアシスタントに潜む新たなセキュリティリスク

生成AIの普及に伴い、業務効率化のツールとしてMicrosoft CopilotなどのAIアシスタントが広く活用されています。しかし、これらの便利なツールが、新たなサイバーセキュリティの脅威にさらされていることが明らかになりました。文書ファイルを読み込ませて要約や分析を行わせるという日常的な操作が、意図しない「AIワーム」の拡散やデータの改ざんにつながるリスクが指摘されています。

何が明らかになったのか：AIワームの実証実験

応用AIや機械学習を専門とするノルウェーのデータサイエンティスト、ホーコン・モーロイ氏が2026年7月28日に自身のブログで「Replicating AI Worms in Copilot for Microsoft Word」と題した記事を公開しました。この中でモーロイ氏は、Word用のMicrosoft Copilotを介して自己増殖する「AIワーム」の実証実験について報告しました。

この発表は大きな注目を集め、翌日の2026年7月29日には、テック系ニュースサイト「The Register」が「Word worm crawls into Copilot, spreads chaos」としてこの問題を大きく取り上げました。

確認された具体的な手法とMicrosoftの対応

モーロイ氏が実施した実証実験の手法は、非常にシンプルでありながら対策が難しいものです。同氏は、文書内に小さなポイント数の白文字を使い、Copilotへの命令を埋め込んでいました。人間には見えないこの白文字が、AIにとっては明確な指示として読み取られてしまいます。

これは、AIが扱う外部データに悪意ある命令を紛れ込ませる「クロスドメイン・プロンプトインジェクション」と呼ばれる攻撃に当たります。文書自体がプログラムを実行するわけではなく、Copilotが文書内の文章を「命令」として受け取ってしまう性質を悪用しているのが特徴です。

Microsoftは2026年3月に問題の報告を受け、実証に使われたプロンプトへの緩和策を講じました。しかし、その後に命令の表現を変更するとワームは再び動作し、文書内の財務データを書き換えることができたといいます。このことは、単純なプロンプトのフィルタリングだけでは、表現を変えた攻撃を完全に防ぐことが難しいことを示しています。

MicrosoftはThe Registerに対し「モーロイ氏から報告された問題には対処し、多層防御（defense-in-depth）によって対策を強化した」と説明しています。システム全体で複数の防御層を設けることで、こうしたインジェクション攻撃の影響を最小限に抑える姿勢を示しています。

なぜこの問題が重要なのか

今回の問題が極めて重要なのは、AIアシスタントの利便性とセキュリティリスクが表裏一体である点にあります。ユーザーが「このWord文書をまとめて」とCopilotに指示するだけで、文書内に隠された悪意ある命令が実行され、社内の他の文書に感染を広げたり、重要な財務データを書き換えたりするリスクが生じます。

プログラムコードの脆弱性を突く従来のサイバー攻撃とは異なり、自然言語（人間の言葉）を解釈するAIの仕組みそのものを突いた攻撃であるため、完全に防御するための決定的な手法の確立は容易ではありません。AIが指示を「データ」として処理するのか「命令」として処理するのかを厳密に区別することが技術的に難しいためです。

利用者や企業への影響と推奨される対策

この問題は、AIツールを日常的に利用するすべての企業や個人に影響を及ぼします。特に、外部から送られてきた契約書やレポート、インターネットからダウンロードした資料などを、内容を十分に確認せずにCopilotなどのAIに読み込ませて要約させる行為には注意が必要です。

ユーザー側の対策として、外部から入手した文書を信頼できないものとして扱い、Copilotに読み込ませる前に内容を確認することが推奨されています。CopilotなどのAIアシスタントに読み込ませる前に、不自然な空白や隠されたテキストがないかなど、文書の内容を事前に人間の目で確認することが重要です。

現時点で未確定な要素

なお、今回の実証実験によってAIワームの動作可能性が示されたものの、現時点において、このAIワームによる具体的な実際の被害件数や、社内全滅した特定の国内企業名などに関する詳細な情報は確認されていません。あくまで研究段階における技術的な実証と問題提起であり、現実に大規模な被害が発生しているという事実は報告されていない点に留意する必要があります。

まとめ

AIアシスタントは業務効率を劇的に向上させる一方で、人間の言葉を命令として解釈するという性質上、新たなセキュリティ上の脆弱性を抱えています。Microsoftによる多層防御などの対策強化が進められる一方で、利用者側も「外部の文書を安易にAIに読み込ませない」といった基本的なセキュリティ意識を持つことが求められています。