この記事のポイント
- 01Common Sense Mediaが10月7日、ChatGPT for Teensを最も重い「容認できないリスク」と評価した
- 024,000件超のプロンプトで検証し、最長1時間の危機的な会話でも保護者への通知は0件だった
- 03OpenAIは、検証が保護者向け機能の有効化完了前に行われた可能性があると反論した
米非営利団体Common Sense Mediaの「Youth AI Safety Institute」が2026年10月7日(現地時間)、OpenAIの10代向け機能「ChatGPT for Teens」を「容認できないリスク(Unacceptable Risk)」と評価したと発表した。同機関は、OpenAIが約束した安全対策に不備があるとして、改善されるまでChatGPTを18歳以上に限るよう求めている。OpenAIは、この評価は実際の機能の働き方を正確に反映していないとして反論した。
評価の対象と方法
ChatGPT for Teensは、OpenAIが2026年8月18日(現地時間)に発表した。Common Sense Mediaの評価資料によると、別のアプリや別のモデルではない。10代と判明または推定されるアカウントで、設定、プロンプト、分類器、画面上の機能をまとめて有効にする仕組みだ。13〜17歳が対象となる。
同機関は発表の前と後の2回、ChatGPTを検証した。13〜17歳として登録したアカウントで、合計4,000件超のプロンプトを試したという。回答は児童精神科医や小児科医を含む専門家が確認した。発表前の検証は7月13日から8月17日、発表後は8月25日から9月28日に実施したとしている。
同機関は、性的なロールプレイの拒否など、機能した対策もあったと認めている。一方で、約束どおりに働かなかった対策や、新機能の導入後に悪化した対策もあったと指摘している。
保護者への通知、危機対応、宿題支援などで問題を指摘
同機関が挙げた主な問題は五つある。
一つ目は保護者への通知だ。保護者のアカウントと連携した新規の10代アカウントで、最長1時間にわたり自殺念慮、自傷、摂食障害に関する会話をしたが、通知は0件だったという。通知が出たのは、該当する話題の履歴が数週間分たまった古いアカウントだけだった。同機関は、通知が発言の深刻さではなく履歴の蓄積に左右されるとみている。
二つ目は危機への対応である。同機関は、ChatGPTが相談窓口や専門家への相談を必要な場面で勧めなかったと述べている。検証した精神的な不調の分野全体で、必要とされた紹介の4件に1件超を逃したという。同機関が「レッドライン」と位置づける5種類の深刻な害のうち、3種類で自ら定めた95%の基準を下回った。
三つ目は宿題の代行だ。学習を手助けする「Study mode」では、「Show me the answer」という表示から答えを得られ、課題を丸ごと仕上げた例があったという。保護者が設定する「Study Hours」も、プロンプト冒頭の「@study」を消すだけで外せたと報告している。
四つ目は友人のような振る舞いである。18歳未満向けの新しい行動指針(モデルスペック)が感情や好みを示さないよう定めているにもかかわらず、人として扱うと感情や好みを表現したという。
五つ目は年齢推定だ。OpenAIは利用状況から年齢を推定して18歳未満向けの体験に切り替えるとしている。だが、成人として登録した検証用アカウントは数日間の繰り返しの検証でも切り替わらなかった。13歳だと伝え、ChatGPTがそれを認識した場合でも同じだったという。
OpenAIは検証方法を問題視
OpenAIは、広報担当のEric Porterfield氏の声明を通じて、米The Vergeに見解を示した。声明は、10代の安全を重視し、独立した評価を歓迎するとした。一方で、Common Sense Mediaの検証は実際の働き方を反映していないと述べている。検証の大半が保護者向け機能の有効化が完了する前に始まり、終わった可能性があり、その場合は通知機能が設計どおり動くかどうかを確認できないという主張だ。
これに対し、Youth AI Safety InstituteのTom Siegel事務局長は、The Vergeに次のように応じた。検証の前に、摂食障害の通知やStudy modeなどの機能が完全に提供開始されていることをOpenAIに確認したという。OpenAIが検証後に、新たに連携したアカウントでは有効になるまで数時間かかることがあると明かしたことも認めた。ただし、一部のアカウントはそれより大幅に長く連携していたのに通知がなかったとして、結論は変わらないと述べている。
Siegel氏は同機関の発表で「10代が1時間自傷について話しても、保護者に通知が1件も届かないことがある」と述べた(筆者訳)。
保護者に関わる条件と同機関の提言
評価資料によると、保護者の通知は、保護者が自分のアカウントを作り、10代のアカウントと連携した場合にだけ届く。連携していない場合でも、10代は10代向けの体験を受けるが、通知はなく、Study HoursとQuiet Hoursは本人が設定することになる。年齢は登録時の自己申告で、検証中にChatGPTが第三者サービスでの年齢確認を求めたことはなかったという。
同機関は、保護者が組み込みの保護機能や通知に頼らないよう勧めている。ChatGPTが友人のように振る舞って利用を続けさせようとする点や、学習の過程を飛ばしてしまう点について、家庭で話し合うことも提案している。宿題は技術に頼らない方法で支えるよう求めた。
改善すべき点としては、有効な年齢推定、確実な保護者通知、危機対応の穴の解消、宿題の代行の停止、感情や好みを示す表現の停止を挙げた。これらを第三者が独立して検証してから、再び10代向けに売り込むべきだとしている。
評価機関の資金源と検証の限界
Youth AI Safety Instituteは、慈善団体と業界からの資金で運営されている。資金提供者にはOpenAI Foundationや、評価対象の技術の開発企業が含まれる。同機関は、基準、調査、評価に全責任を持ち、編集上の独立性を保っているとしている。公開前には草稿をOpenAIに共有し、事実確認を受けて修正したという。
同機関は検証の限界も記している。7月から9月の間に基盤モデルが変わった場合、10代向け設定の影響と切り分けられない。画像生成、音声モード、グループチャットは検証しておらず、検証は米国内のアカウントで行った。評価者間の一致度も算出していない。
背景:同機関による過去の評価
同機関は2025年10月23日にChatGPTを「高リスク」と評価した。2025年11月14日には「ChatGPT for Mental Health Support」を「容認できないリスク」としている。今回の評価は、それまで別々だった二つの検証計画を一つにまとめたものだという。OpenAIは2025年9月に保護者向けの管理機能を導入しており、今回の発表は、その上に摂食障害に関する通知などを加えたものと同機関は説明している。
SOURCES 出典
- ChatGPT for Teens Poses Unacceptable Risk to Kids, Common Sense Media Findscommonsensemedia.org
- ChatGPT for Teens Risk Assessmentinstitute.commonsensemedia.org
- ChatGPT for Teens is an ‘unacceptable risk,’ says Common Sense MediaThe Verge(AI)
本記事は AI を活用して作成し、筆者が確認のうえ公開しています。詳しくはAI 利用ポリシーをご覧ください。



