ChatGPTは18歳未満だと「答え方」まで変わる。10代向けAIで変わる宿題と安全対策

ChatGPTの利用者が年齢を13～17歳と登録するか、システムが18歳未満と推定すると、10代向けの利用環境へ自動的に切り替わる。

これは本人が「子ども向けモード」を選ぶ方式ではなく、アカウント情報や利用状況などから年齢を推定し、10代だと推定された利用者にも専用の設定を適用することになる。

変わるのは、有害な内容への制限だけではなく、宿題の答えを求められても、完成した答えをすぐ出すのではなく、考え方を段階的に示す学習モードへ誘導する。

電卓なら入力した式の答えを返し、検索なら答えが載ったページを並べるが、10代向けChatGPTには、答えを早く渡すよりも、利用者に途中の思考を続けさせる機能が加わった。

年齢で変わるのは閲覧制限だけではない

10代向けの安全対策では、過激な暴力、自傷行為、危険な流行、健康を損なう身体イメージ、性的・恋愛的な役割演技などへの制限が強化され、AIを現実の人間関係の代わりとして扱う応答も抑えられる。

従来の年齢制限は、「この内容を表示するか」という線引きが中心だったが、対話AIでは、答え方や聞き返し方、AIと利用者の距離まで変わってくる。

宿題の扱いにも、同じ設計が表れ、答えそのものを完全に隠すのではなく、利用者へ質問を返しながら、解き方を一緒に進めていく。

学習へ使いたい子どもと、宿題を短時間で終えたい子どもを、入力された一文だけで正確に分けるのは難しい。

だからこそ、最初から解答を渡さない方向へと設定されている。

年齢推定には誤りも起こり得るだろう。

18歳以上の利用者が10代向けと推定された場合や、10代が成人として扱われた場合に、訂正方法が使いやすいかどうかも実際の運用では欠かせないはず。

保護者向けの管理機能も用意されているとはいえ、親が会話内容を常に読む仕組みではないし、利用時間や一部の安全設定を管理しながら、10代本人の私的な会話まで一律に公開しない設計が求められる。

AIが答えを完成させたのか、解き方を説明したのか、その説明を子ども自身が再現できるのかで学習内容は大きく変わってくる。

10代向けChatGPTが止めようとしているのは、AIの利用そのものではなく、問題文を入力し完成した答えを簡潔に出すことであり、考えることがが抜ける使い方を停止していく。