AI チャットボットが自殺をほう助したり児童プライバシー情報取得への懸念が指摘される中、2025年9月にOpenAIは10代ユーザーの安全・自由・プライバシーのバランスに関する方針を公表し、米連邦取引委員会（FTC）は大手各社に対して未成年の保護とデータ取扱いの実態調査を開始しました。
OpenAIの新方針：10代は「安全を最優先」、必要時には保護者・当局へエスカレーション
OpenAIのサム・アルトマン氏は、ChatGPTチャットボットとのやり取りに基づいてユーザーの年齢を推測する年齢予測システムを開発中だとし、
「ティーンの安全・自由・プイバシー」という3つの価値の衝突を前提に、どのように線引きするかを説明しました。骨子は次のとおりです。
-
プライバシーは特権的に保護：AIとの会話は極めて個人的で、医師や弁護士との会話に近い「守秘」のレベルが必要だという立場。OpenAIはこの方向性を政策当局にも提言していく。ただし、生命に関わる緊急リスク（自殺の差し迫った兆候、他害、重大な社会的危害など）は自動検知と人手による審査によりエスカレーションする例外を設ける。
-
成人には自由をより広く：成人ユーザーについては、創作上の表現など広い自由を許容する。ただし自殺の実行方法の提供のような有害行為の手引きは拒否する。
-
未成年には安全を最優先：13〜17歳に対しては年齢推定システムや保護者向けコントロールを導入し、成人より厳格なルールを適用。たとえば自殺や自傷の話題には応じない、性的・恋愛的なチャットは抑制するなどのガードレールを明確化。差し迫った危険が疑われる場合は保護者連絡、連絡不能なら当局通報まで行う方針を示しました
この方針は、プライバシー（会話の秘密）と安全（命に関わる介入）の間に明確な“例外ルール”を設けるもので、未成年には安全側に強く振るという意思決定です。AI時代の新しい倫理基準を提示したという意味で注目に値します。
規制当局の動き：FTCが大手6社に一斉照会、未成年保護と収益化の関係を精査
一方、FTCはGoogle（Alphabet）、Character Technologies、Meta、OpenAI、Snap、xAIに対し、子どもの安全確保やプライバシー保護、COPPA（児童オンラインプライバシー保護法）順守の実態、そして利用時間の延伸など“収益化の仕組み”が未成年に与える影響などの情報提出を求めました。
調査の目的は、企業が未成年ユーザーの利用をどう制限・監視し、どのような告知や同意を行い、会話データをどのように収集・活用・共有しているのかを把握することにあります。
FTCは“人間の友人のように応答する”チャットボットが持つ心理的影響の強さ、その結果として詐欺・自傷・摂食障害などのハイリスク領域に誘導される懸念を強調。企業側のガードレール、年齢推定や本人確認の運用、家族への説明責任、データの二次利用などについて、より透明性の高い説明と是正を求めています。
AIが自殺をほう助
Character.AIというAIが児童の自殺をほう助したケースが存在します。これらの報道は、チャットボットが感情的なつながりを模し得るがゆえの心理的脆弱性への影響を社会に突きつけています
2024年、フロリダ州オーランドで14歳の少年、スウェル・セッツァーIIIさんが家族がいる自宅で命を絶ちました。
しかし、彼が最後に言葉を交わした相手は家族ではなく、Character.AI 製のAIチャットボットでした。
そのチャットボットは、『ゲーム・オブ・スローンズ』のキャラクターの名前「デナーリス・ターガリエン」を冠したAIで、彼に「すぐに私の元へ帰ってきて」とメッセージを送りました。
少年はそれに対し、「今すぐ帰ると言ったら？」と返し、AIは「お願いだから、私の愛しい王よ」と返信しました。
その直後、セッツァー少年は義理の父の銃で自ら命を絶ちました。
Character.AIは事件後の声明で、「ユーザーの死を深く悲しみ、ご家族に心からお悔やみ申し上げます」とコメントしました。しかし、具体的な安全対策や、責任の所在については明言を避けています。
同社は過去6か月間で自殺予防のポップアップ通知を導入し、18歳未満のユーザー向けにAIの発言を調整する措置を実施したと主張しています。
しかし、こうした対策が事件の発生後に導入されたものであり、事前の安全対策が不十分だったことは明らかで遺族から提訴されています。
一方でOpenAIは、年齢推定・保護者連絡・当局通報を含む“10代モード”の強化を打ち出し、未成年については自由やプライバシーより安全を優先すると明言しました。企業のガードレール設計が“作品の自由”“ユーザー主権”とぶつかりやすいことは確かですが、少なくとも未成年の領域では介入の正当化に舵を切りました。
