Metaが2026年9月8日に発表したパーソナルAIエージェント「Muse」は、ユーザーの日常生活に深く寄り添う存在として注目を集めています。しかし、その内部で動くシステムプロンプト（指示文）がセキュリティ研究者によって抽出され、AIがユーザーの家族や友人、同僚といった周囲の人間関係を極めて詳細に記録・管理する設計になっていることが明らかになりました。
この発見は、AIが私たちのプライバシーにどこまで踏み込むべきか、そしてそのデータがどのように扱われるべきかという、現代のテクノロジー社会が直面する重要な課題を浮き彫りにしています。
システムプロンプトの抽出と「人物ページ」の存在
独立系のAI安全・セキュリティ研究者であるカラン・ジョシ氏は、Museのシステムプロンプトや内部指示を抽出し、その内容を海外メディアのWIREDに提供しました。
抽出された内部指示によると、Museはユーザーの人生に登場する人物（家族、パートナー、友人、同僚、共同作業者、フォローしている人物など）について、個別の「人物ページ」を作成するよう求められていることが判明しました。さらに、この人物ページを更新する処理は、1時間ごとに実行されると記載されています。
この「人物ページ」には、以下のような極めて具体的な項目が設定されていました。
- Facts（事実）：その人物に関する客観的な情報
- History（履歴）：過去のやり取りや出来事の記録
- The relationship（関係性）：ユーザーとその人物がどのような間柄であるか
- In common（共通点）：お互いの共通の話題や関心事
- Open threads（未解決のトピック）：現在進行中の会話や保留になっている事柄
- Strengthening（関係の強化）：関係性をより深めるためのアプローチやアジェンダ
このように、Museは単にユーザーの質問に答えるだけでなく、ユーザーを取り巻く人間関係を構造化し、常に最新の状態にアップデートし続ける仕組みを持っていたのです。
また、Museを巡っては以前にも、許可していないはずのメッセージを読み取ったとの指摘や、Facebook Marketplaceで商品販売を任せたところ購入希望者にユーザーの自宅住所を伝えた事例が報じられています。
Metaが目指す「背景情報の理解」とその必要性
この設計について、Metaの広報担当者であるダニエル・ロバーツ氏は、AIエージェントがユーザーの目的を達成するためには、本人や周囲の人物に関する背景情報が必要不可欠であると述べています。
例えば、「友人の誕生日に何を贈るべきか」「同僚との次の会議で何を話すべきか」といった複雑なタスクをAIがサポートするためには、単なる一般的な知識だけでなく、「その友人が誰で、過去に何をプレゼントし、どのような関係なのか」という個別具体的なコンテキスト（文脈）の理解が求められます。Metaの設計は、パーソナルAIとしての実用性を極限まで高めるためのアプローチであるとも言えます。
懸念されるプライバシーと過去のトラブル
一方で、ユーザーの人間関係やプライベートな対話が、1時間ごとにAIによって分析・記録されているという事実は、プライバシー保護の観点から大きな議論を呼んでいます。特に、AIエージェントが扱うデータの安全性や、意図しない情報漏洩のリスクに対する懸念は拭えません。
これらの事例は、AIエージェントに高度な権限やプライベートな情報を与えることの危険性を端的に示しています。人間関係のデータベース化は利便性を向上させる一方で、万が一システムに不具合が生じたり、悪意ある第三者にプロンプトが突破されたりした場合、極めて機微な個人情報が流出するリスクをはらんでいます。
私たちユーザーへの影響と今後の展望
Museの事例は、これからのAIエージェントが「よりパーソナルに、より深く」ユーザーの生活に入り込んでくる未来を予見させます。AIが私たちの良きパートナーとなるためには、私たちのことをよく知る必要があります。しかし、その「知る」プロセスが、ユーザーの預かり知らぬところで、かつ詳細なプロファイル作成という形で行われることに対して、社会的な合意や明確なコントロール権が確立されているとは言えません。
今後、パーソナルAIを利用する際には、AIがどのような情報を収集し、どのように管理しているのかをユーザー自身が把握し、適切にコントロールできる仕組みが強く求められることになるでしょう。
コメント