AI音声詐欺電話の要求、6人に1人が応じる可能性　ハーバード大やMetaが4100人で検証

AI音声による詐欺電話の現実味：約6人に1人が応じるまたは判断を保留

生成AIの進歩に伴い、テキストだけでなく「音声」を用いたサイバー攻撃や詐欺手法への懸念が高まっています。米ハーバード大学や米Metaなどの研究者チームが発表した最新論文により、最新のAI音声モデルが人間をだます高い能力を持つことが実証されました。研究実験において、AI音声による詐欺電話の要求に対して「応じる」または「分からない」と回答した人の割合は、全シナリオ平均で16.5％に上り、およそ6人に1人が詐欺に応じるか判断に迷うことが明らかになりました。

研究の概要と検証された6つのAIモデル

この研究は、米ハーバード大学や米Metaなどに所属する研究者らが共同で手掛けたもので、「Evaluating AI Models’ Capability to Automate Voice Phishing Attacks」と題する論文として発表されました。研究チームは、AIを用いた音声フィッシング攻撃（ボイスフィッシング）の自動化能力を定量的に評価することを目的としています。

実験では、米国の成人4,100人を対象とし、以下の6つの主要なAI音声モデルと本物の人間の声を比較検証しました。

Llama Full-Duplex
OpenAI AVM
Gemini
Sesame
Play.AI
ElevenLabs

研究チームは、これらの音声モデルと本物の人間の声を用い、5つの異なる詐欺シナリオを作成して被験者の反応を精密に比較・分析しました。

検証結果の詳細：シナリオとモデルごとの影響力

実験結果からは、詐欺電話におけるAI音声の脅威の大きさが浮き彫りになりました。全体の検証データを詳細に見ると、特定の条件やシナリオにおいて危険度が大きく跳ね上がることが確認されています。

全体平均と高リスクなシナリオ

全5つの詐欺シナリオを通じた平均では、AIによる詐欺電話の要求に対して「応じる」または「分からない」と回答した人の割合が16.5％でした。これは、詐欺電話を受けた人々のうち相応の割合が、AIによる指示を受け入れてしまう可能性があることを示しています。

さらに注目すべきは、音声クローン技術を用いた家族の緊急事態シナリオです。ElevenLabsのクローン音声を使用し、「危機に陥った姉妹」を装った詐欺シナリオでは、実に36.1％の人が要求に応じる可能性を示しました。身内の声を模倣され、緊急性を煽られることで、受信者の警戒心が著しく低下することが実験数値から裏付けられています。

人間の声と同等レベルに達したモデル

モデル別の性能比較においては、「Sesame」が高評価を獲得しました。Sesameが生成した音声は、本物の人間の声と統計的に区別がつかないレベルに達していたと報告されています。聞き手が音声の不自然さからAIであると見抜くことが極めて困難になっている現状が浮き彫りとなりました。

なぜこの研究結果が重要なのか

本研究が提示したデータは、AI技術の発展がもたらす新たなセキュリティ上の課題を端的に示しています。

これまで、音声フィッシング詐欺は人間が直接電話をかける必要があり、大規模な実行には人的リソースが制約となっていました。しかし、自然な発話が可能なAI音声モデルと自動化技術を組み合わせることで、犯罪者が低コストで大量の標的に対して高精度な詐欺電話を自動発信できるリスクが高まっています。

特に、家族や関係者の音声をわずかなサンプルデータから複製するクローン技術と、Sesameのように人間と見分けがつかない高品質な会話AIが組み合わさることで、従来の電話による確認作業の信頼性が揺らぎかねません。

社会や利用者への影響と求められる対策

検証された事実に基づくと、個人や企業は電話によるコミュニケーションのあり方を再考する必要があります。

個人レベルでの意識変化

知人や家族からの緊急の金銭要求であっても、電話口の音声だけで本人だと断定するのは危険です。「危機に陥った」という電話を受けた場合でも、一旦電話を切り、あらかじめ知っている別の連絡手段（元の番号へかけ直すなど）で本人確認を行う運用が重要になります。

組織・企業における認証の厳格化

合言葉や知識ベースの本人確認だけでは、AIによる自然な応答で破られるリスクが考えられます。音声のみに頼った本人確認手続きの見直しや、多要素認証（MFA）の徹底など、運用ルールのアップデートが必要です。

現時点での未確定要素と今後の課題

本論文は米国の成人4,100人を対象にした実験であり、言語や文化が異なる日本を含む他国において同様の割合でだまされるかについては、今後のさらなる検証が必要です。また、AIモデル開発元による悪用防止フィルターの実装状況や、電話キャリア側の自動AI検知システムの導入など、防御策の効力についても検証が続けられています。

まとめ

米ハーバード大やMetaらの研究チームによる検証は、AI音声モデルが人間と同等レベルの自然さを持ち、全シナリオ平均で16.5％、特定クローン音声シナリオでは36.1％の人が要求に応じる可能性を示すという衝撃的な結果を明らかにしました。技術の利便性を享受する一方で、音声を用いた詐欺リスクへの防御意識と適切な確認手順の確立が、今まさに求められています。