AI日記の書き込みから逮捕へ：Claudeの安全システムが検知した「暴力の脅迫」とユーザー情報の開示方針

AIを「日記」として使っていたユーザーの逮捕劇

対話型AIは、日々の思考の整理や個人的な記録をつづる「日記」のような用途でも広く使われています。しかし、AIとのやり取りは完全なプライベート空間ではなく、運営会社の安全基準や利用規約、そして法的な監視の対象であるという現実を示す事件が発生しました。

アメリカ・フロリダ州ボニータスプリングスにおいて、Anthropic社が開発・提供するAI「Claude」を日記のように使用していた女性（Carli Michelle Heller）が、AIへの書き込み内容をきっかけに法執行機関に通報され、逮捕されました。この事件は、AIサービスの安全対策システムがどのように機能し、どのような基準で現実の法執行へとつながるのかを明確に示しています。

事件の経緯：安全システムと人間の目によるダブルチェック

事件の発端となったのは、女性が2026年9月26日と翌27日に行ったClaudeへの書き込みでした。

2026年9月26日：女性はClaudeに対し、「保安官事務所を銃撃する」という旨の書き込みを行いました。
2026年9月27日：さらに翌日、「新しい銃を手に入れた」という趣旨の書き込みを重ねました。

これらの書き込みは、Claudeに導入されている安全対策システムによって即座に検出されました。Claudeには、特定の表現や脅威につながる可能性のある内容を検出する安全対策が導入されています。

システムによってフラグが立てられた書き込みは、その内容の深刻さから人間のレビューチームへと送られ、確認後に法執行機関へ報告されました。Anthropic社の安全システムが検出した内容を人間の担当者が確認した上で法執行機関に通報したことで事件が発覚しました。

法執行機関の対応と適用された罪状

Anthropic社からの通報を受けた保安官事務所は、女性の自宅を訪問しました。女性は抵抗せずに拘束されました。

現在、女性はフロリダ州法に基づく「書面による暴力の脅迫」の罪（第2級重罪）に問われており、11月に出廷予定である。

AIサービスの利用規約と緊急時の情報開示方針

今回の事件で注目されるのは、AI開発企業がユーザーの入力内容をどのように監視し、どのような場合に外部へ開示するのかという点です。Anthropic社は、自社製品の安全性と倫理的な利用に関して明確な方針を定めています。

1. 利用規約による制限

Anthropicの利用規約は製品を暴力や脅迫の助長に使うことを禁じている。

2. 緊急事態における法執行機関への情報開示

Anthropicの政府機関からの要請に関する方針では、死亡や重大な身体的被害の危険がある緊急事態に、必要と判断した場合は法執行機関へユーザー情報を開示する可能性があるとしている。

まとめ：AIは「閉ざされたプライベート空間」ではない

多くのユーザーにとって、AIチャットボットは親密で何でも話せる存在のように感じられるかもしれません。しかし、AIサービスはローカル環境で完結するツールではなく、クラウドを介して提供される商業サービスです。運営企業には、プラットフォームが犯罪や暴力の計画に利用されることを防ぐ社会的・法的な責任があります。

今回の逮捕劇は、AIへの入力内容が安全システムや人間のレビューチームによって監視されていること、そして現実の脅威とみなされた場合には即座に警察などの法執行機関へ通報され、重罪に問われる可能性があることを示す、極めて重要な教訓となっています。