AnthropicがAI悪用レポートを公開。中国企業による「蒸留」や生物学的悪用など7分野の脅威を特定

AI悪用の実態を暴く初の脅威インテリジェンスレポート

米Anthropicは9月10日（現地時間）、自社が開発・提供するAI「Claude」の悪用事例をまとめた脅威インテリジェンスレポート「Detecting and countering misuse of AI: September 2026」を公開しました。このレポートは、AI技術の急速な進歩に伴い、どのような脅威が現実化しているのかを具体的に示す極めて重要な文書です。

レポートでは、2025年12月から2026年8月までの期間に同社が検知・遮断した事案を分析しています。Anthropicはこれらの悪用事例を、サイバー攻撃、影響工作、監視、詐欺、生物学的悪用、通常兵器開発、蒸留の7つの分野に整理して報告しました。

悪用されたモデルと上位モデルの堅牢性

悪用の対象となったのは、主に「Claude Haiku」、「Claude Sonnet」、「Claude Opus」といったモデルです。一方で、より上位のモデルである「Fable」や「Mythos」系については、後述する「蒸留」の1件を除いて悪用は確認されなかったとされています。これは、モデルの設計やアクセス制限が一定の防御壁として機能していることを示唆しています。

生物学的悪用への厳格な対処と安全対策

特に深刻な懸念とされるのが「生物学的悪用」の分野です。レポートでは、鳥インフルエンザの機能獲得研究や、毒素ペプチドのデータベース作成など、5件の具体的な事例が報告されました。

Anthropicは、これらの被害の深刻さを踏まえ、安全性を最優先して該当する生物学的悪用の事例を即座に遮断したと説明しています。

また、同社はモデルの世代による能力と安全対策の違いについても言及しています。「Claude Opus 4」や「Claude Sonnet 4.5」などの旧世代モデルについては、高度な生物学研究を有意に支援できる水準には達しておらず、保護措置も限定的なものであったと分析しています。その上で、より高度な能力を持つ新世代モデルにおいては、こうしたリスクに対処するために制限を大幅に強化していることを明らかにしました。

中国AI企業による「蒸留」キャンペーンの指摘

今回のレポートで特に注目を集めているのが、中国のAI企業による「蒸留（Distillation）」行為の指摘です。蒸留とは、高性能なAIモデル（この場合はClaude）の出力データを利用して、自社のより小さなAIモデルを訓練・微調整する手法を指します。これは利用規約で禁止されていることが多い行為です。

Anthropicは、Alibaba、DeepSeek、Moonshot AI、MiniMax、Z.ai、Xiaomiといった中国の主要なAI企業を名指しし、これらによる蒸留行為を「産業規模の隠密キャンペーン」と位置付けて強く非難しています。他社の高度な知的財産を組織的に吸収しようとする動きに対して、強い警戒感を示した形です。