米非営利団体がOpenAIの「ChatGPT for Teens」に「容認できないリスク」と警告

結論

米国の非営利団体Common Sense Mediaは、13～17歳向けの利用環境「ChatGPT for Teens」について、安全上の懸念があるとして「Unacceptable Risk（容認できないリスク）」と評価しました。同団体は18歳以上に利用を制限するよう求めており、未成年向けのAI利用における安全機能や保護者連携のあり方に大きな波紋を呼んでいます。

何が発表・検証されたか

Common Sense Media傘下のYouth AI Safety Instituteは、13～17歳として登録したアカウントで4000件以上のプロンプトを用いた検証を実施しました。その結果、保護者への通知機能や危機対応、学習支援モードなどの面で深刻な課題が存在することが指摘されました。これに対し、OpenAIは初期の利用実績や新機能の導入計画を公表し、製品改善に向けた取り組みを進めています。

確認済みの具体情報

今回の検証および発表において、以下のような具体的な事実が確認されています。

評価と要求：Common Sense Mediaは10月7日（現地時間）に「ChatGPT for Teens」を「Unacceptable Risk」と評価し、18歳以上に利用を制限するよう求めた。
検証プロセス：Youth AI Safety Instituteが13～17歳のアカウントで4000件以上のプロンプトを使用して検証を行った。
危機対応と保護者通知の問題：保護者と連携した新規アカウントで自殺願望などについて最大1時間会話しても、保護者には1度も通知が届かなかった。また、危機的な状況で相談窓口等を促すべきケースの4分の1以上で適切な案内が行われなかったほか、自殺や自傷など5つの評価項目のうち3項目で95％の安全基準を下回った。
学習支援モードの検証：Study Modeでは回答を表示する操作で宿題を完成させることができ、保護者の設定した時間制約も簡単に回避できたとされている。
OpenAI側の発表：OpenAIは公式ブログで初期の利用実績として学習関連のメッセージが平均約270万件多く送信されたことを紹介し、米国の高校生向けに大学出願を支援する「College Planner」を近日中に導入する計画を明らかにした。また、米ボストン小児病院のDigital Wellness Labとその学生諮問委員会を今後3年間支援し、意見を製品改善に反映する方針を示している。

なぜ重要か

生成AIが教育現場や日常のコミュニケーションに深く浸透する中、未成年が利用する際の安全性確保は極めて重要な課題です。今回の検証で浮き彫りになった保護者通知の機能不全や危機対応の甘さは、プラットフォーム側が掲げる安全対策が実運用において十分に機能していない可能性を示唆しています。単なる学習効率の向上だけでなく、心理적安全性や危機管理の徹底が求められている点が本件の重要なポイントです。