ChatGPTとの会話を人間が読む「Project Lily」が進行中、個人情報がレビュー担当者に届いてしまう可能性がある

はじめに：ChatGPTとの会話は誰に見られているのか

私たちが日常的に利用しているAIチャットアシスタント「ChatGPT」。その応答の自然さや正確さは日々向上していますが、その裏側でどのような品質改善プロセスが行われているかは、一般のユーザーにはあまり知られていません。現在、OpenAIがChatGPTの応答品質を改善するために、実際のユーザーとChatGPTの会話を人間に読ませて評価する内部プロジェクト「Project Lily」を進めていることが明らかになりました。

このプロジェクトはAIの性能向上に寄与する一方で、ユーザーが入力したプライベートな情報や機密情報が、意図せず人間のレビュー担当者に届いてしまうリスクをはらんでいます。本記事では、この「Project Lily」の仕組みと、個人情報がどのように扱われているか、そしてユーザーが自身のデータを守るためにどのような対策を取るべきかを詳しく解説します。

「Project Lily」の仕組みと個人情報のリスク

「Project Lily」は、ChatGPTの回答品質や問題点を評価・改善することを目的としたOpenAIの内部プロジェクトです。このプロジェクトでは、数百人規模の契約スタッフが動員されており、彼らは実際に行われた人間とChatGPTの会話を直接読み、その品質を評価する役割を担っています。

もちろん、OpenAIもユーザーのプライバシーに全く配慮していないわけではありません。レビュー担当者が使用する画面では、ユーザー名は匿名化されており、直接的に誰の会話であるかが分からないよう処理されています。また、レビュー前に個人情報を削減するためのシステム「OpenAI Privacy Filter」も導入されています。

しかし、この対策には限界があります。レビュー画面には、ChatGPTが保持しているメモリの要約が表示される場合があり、ここには過去の利用内容や、おおまかな居住地域に関する情報が含まれるケースがあります。さらに、「OpenAI Privacy Filter」は万能ではありません。一般的ではない識別情報や、文脈によって意味が変わるような個人的な情報については、フィルターが見落としてしまう場合があるのです。その結果、レビュー担当者にはユーザー名が表示されず、個人情報を隠す処理が行われているにもかかわらず、会話に含まれる個人的な情報が完全には取り除かれず、人間のレビュー担当者まで届いてしまう可能性が残されています。

なぜこの問題が重要なのか：利便性とプライバシーのトレードオフ

AIモデルのトレーニングや品質改善において、実際のユーザーのフィードバックや会話データは極めて貴重なリソースです。しかし、ユーザーが「AIと1対1で会話している」と信じて入力した内容が、実際には「人間の第三者に読まれている可能性がある」という事実は、プライバシーの観点から非常に重要な意味を持ちます。

特に、ChatGPTを個人的な相談相手や、仕事のブレインストーミングの道具として使っている場合、無意識のうちに住所や勤務先、家族構成、あるいは他人に知られたくない個人的な悩みを入力していることがあります。これらが「一般的ではない識別情報」や「文脈依存の情報」としてフィルターをすり抜け、数百人規模の契約スタッフの目に触れるかもしれないというリスクは、ユーザーが十分に認識しておくべき課題です。

ユーザーが取るべき具体的な対策と設定方法

では、私たちはどのようにして自身のプライバシーを守ればよいのでしょうか。OpenAIは、ユーザーのプランや設定に応じて、会話データをモデル改善（トレーニングや人間によるレビュー）に使用させないための選択肢を提供しています。

1. 個人向けChatGPTでの設定変更

個人向けのChatGPTでは、標準の状態で会話がモデル改善に利用される設定になっています。これを防ぐためには、ユーザー自身で設定を変更する必要があります。

ChatGPTの画面から「設定」を開きます。
「データコントロール」の項目を選択します。
「モデル改善に協力する」という設定をオフにすることで新しい会話のトレーニング利用を防ぐことができます。

この操作を行うことで、その後の新しい会話がモデルのトレーニングや人間によるレビューに利用されるのを防ぐことができます。

2. 「一時チャット」の活用

設定を恒久的に変更したくない場合や、特定の会話だけを履歴に残さず、改善プロセスからも除外したい場合は、「一時チャット」機能が有効です。「一時チャット」の会話はモデル改善には利用されず、通常は30日後に削除される仕様となっています。

3. 法人・教育向けプランの利用

ビジネスや教育の現場でChatGPTを利用する場合、より厳格なデータ管理が求められます。OpenAIが提供する以下のプランでは、会話が標準でモデル改善に利用されない設定になっています。

ChatGPT Business
ChatGPT Enterprise
ChatGPT Edu

これらのプランを利用している場合、組織内のメンバーが交わした会話が「Project Lily」のレビュー対象になることは原則としてありません。企業や教育機関がChatGPTを導入する際は、これらの専用プランを選択することが、情報漏洩リスクを低減する上で極めて重要です。

まとめ：AIの進化と自己防衛のバランス

ChatGPTの応答品質が向上する背景には、「Project Lily」のような人間による地道な評価プロセスが存在します。しかし、そのプロセスにおいて、私たちのプライベートな会話や個人情報が人間の目に触れるリスクがあることは否定できません。

AI技術の恩恵を最大限に享受しつつ、自身のプライバシーを守るためには、提供されているデータコントロール機能を正しく理解し、適切に設定することが不可欠です。個人ユーザーは「モデル改善に協力する」設定のオフや「一時チャット」の活用を検討し、企業ユーザーは法人向けプランの導入を徹底するなど、用途に応じた自己防衛策を講じることが求められています。