はじめに
子どもにインターネットや生成AIを使わせるとき、最初に問題になるのは安全です。有害なコンテンツを表示しない、危険な行為を助長しない、年齢に応じて回答範囲を調整する、保護者が一定の管理をできるようにする。サービス提供企業がこの方向へ進むのは自然です。
OpenAIは2026年8月、13〜17歳、または18歳未満と推定した利用者を対象とするChatGPT for Teensを発表しました。通常のChatGPTより強い安全対策を適用し、保護者向けの管理機能なども組み合わせています。1 (OpenAI)
企業にとって、まず安全を提供することは合理的です。企業は教育機関ではありません。事故や不適切な出力を防ぐ責任と、利用者を教育して自立した判断能力を身につけさせる責任までを同一視すれば、サービス提供者に求める範囲は際限なく広がります。
一方で、利用者側から見ると別の問題が残ります。安全な情報だけを与え続ければ、やがて安全装置の外へ出たときに、自分で情報を選べるようになるのでしょうか。
本稿では、企業が安全を提供することを否定するのではなく、それを前提とします。そのうえで、安全と教育の間に存在する差を、別の企業が付加価値として埋めることはできないかを考えます。
1. 安全と教育は、似ているようで目的が違う
安全対策の目的は、問題のある結果をできるだけ発生させないことです。危険な質問への回答を制限したり、年齢に適さないコンテンツを除外したりすることで達成できます。
教育の目的は異なります。最終的には、保護する人やシステムがそばにいなくても、本人が判断できる状態を作る必要があります。
| 観点 | 安全 | 教育 |
|---|---|---|
| 主目的 | 危険を避ける | 判断能力を育てる |
| 手段 | 制限・遮断・警告 | 説明・比較・実践・振り返り |
| 成功状態 | 問題が起きない | 本人が適切に判断できる |
| 主な担い手 | サービス事業者・保護者 | 学校・家庭・教育サービス |
| 時間軸 | 利用している現在 | 将来の自立まで |
この違いは、学校の校則を考えると分かりやすくなります。
文部科学省は、服装、頭髪、化粧などが校則の対象になり得ることを示しています。一方で、校則を無批判に受け入れさせるだけではなく、その根拠や影響を生徒自身が考え、見直しに参加することにも教育的意義があるとしています。2025年に公表された調査では、公立中学校399校、公立高等学校400校を対象に校則の見直し状況が調査され、文部科学省は時代や社会の変化に合わせた継続的な見直しを求めています。2 (文部科学省)
ここには、安全と教育の違いが端的に現れています。規則を守らせるだけなら、禁止事項を設定すれば済みます。しかし、なぜその規則があるのか、状況が変わったときにも同じ規則が必要なのかまで考えさせるなら、それは教育になります。
生成AIのフィルターも、構造としてはこれに近いものがあります。
2. 未成年の間は禁止し、成人したら自己判断という断絶
この問題はAIだけに存在するものではありません。私たちの社会には以前から、保護から自立へ切り替わる瞬間の難しさがあります。
分かりやすい例の一つが化粧です。学校では化粧を校則の対象として扱うことがあります。ところが卒業して社会に出ると、職種や職場によっては、今度は身だしなみの一部として化粧を期待される場面があります。もちろん、すべての学校が化粧を禁止しているわけでも、すべての社会人に化粧が求められるわけでもありません。しかし、ある段階まではしないことを求められ、環境が変わると今度は自分で適切な程度を判断することを求められる構造は存在します。
問題は化粧の是非ではありません。禁止されていた行為について、ある日を境に適切な判断ができるようになるわけではないことです。禁止と自立の間には、本来なら試し、考え、失敗し、調整する期間が必要です。
より慎重に扱う必要がありますが、性に関する情報にも似た構造があります。家庭や学校が安全を重視するあまり、性に関する話題そのものを遠ざける方針を取った場合、成人後には恋愛、パートナーとの関係、避妊、妊娠、出産などについて自分で判断することを突然求められます。結婚後には周囲から子どもについて尋ねられることもありますが、それ以前には性について話すことを避けてきたとすれば、保護から自己責任への切り替えには大きな断絶が生じます。
かつて使われてきた「箱入り娘」という表現も、ここでは善悪ではなく保護モデルの比喩として考えられます。外からの危険を徹底的に遠ざけることで安全性は高められます。しかし、箱の中にいること自体は、箱の外で判断する能力を自動的には育てません。
現在の学校教育でも、性を単純に遠ざけるだけではなく、発達段階に応じて身体、他者との距離、自他の尊重、性暴力の防止などを学ぶ「生命（いのち）の安全教育」が文部科学省によって推進されています。3 (文部科学省) こども家庭庁も、性別を問わず適切な時期に性や健康について正しい知識を持つことをプレコンセプションケアの一部として情報提供しています。4 (はじめよう プレコンセプションケア - こども家庭庁)
重要なのは、危険なものから遠ざけることと、危険を理解して判断できるようにすることを混同しないことです。
これはインターネットやAIにも、そのまま当てはまります。
3. フィルターの中で育った子どもは、フィルターの外で判断できるか
子ども向け生成AIで、有害情報、詐欺的な表現、過度に刺激的なコンテンツなどを可能な限り取り除くことには意味があります。年齢が低いほど、保護の比重を高くする合理性もあります。
しかし、18歳になった瞬間に情報環境そのものが安全になるわけではありません。
一般のインターネットには、広告、誇張、誤情報、切り抜き、偽サイト、ディープフェイク、根拠の弱い健康情報などが混在しています。生成AI自身も誤った回答を生成する可能性があります。
OpenAIの現在の仕組みでは、ChatGPT利用者が18歳以上と判定されると、未成年向け保護が解除される方向で設計されています。5 (OpenAI Help Center) これは製品仕様として不自然ではありません。成人後まで企業が保護者の役割を続けることは現実的ではないからです。
そこで必要になるのが、保護とは別の教育です。
たとえば生成AIの回答に対して、出典を確認する、複数の情報源を比較する、事実と推測を分離する、自分に都合のよい情報ほど一度疑う、分からない場合は判断を保留する、といった行動を学ぶ必要があります。
OECDと欧州委員会は2026年6月、初等・中等教育を対象とするAIリテラシーの共通フレームワークを公表しました。AIの機会だけではなくリスクについても情報に基づいて判断できることを学習成果の一つに位置付けています。6 (OECD) UNESCOもAI時代の教育について、批判的思考や人間の主体性を重要な能力として位置付けています。7 (ユネスコ)
ここから考えると、年齢制限だけでは設計として少し粗いことが分かります。
安全性を年齢に応じて変えることに加えて、本人の能力を段階的に育てる必要があります。
たとえば、小学生では強いフィルターの中でAIに触れ、中学生では回答の根拠を確認させ、高校生では複数の情報源を比較させ、成人が近づけば一般の情報環境に近い状態で誤情報の判定を経験させる、といった設計が考えられます。
フィルターを一気に外すのではなく、補助輪を少しずつ外していくわけです。
4. 安全は参入条件、教育は差別化要因になり得る
ここで企業側に戻ります。
汎用AIを提供する企業に、子どもの教育そのものまで全面的に担わせる必要はないでしょう。安全性、プライバシー、年齢に応じた適切な挙動を整えるだけでも大きな責任があります。
一方で、その先を商品にする企業には事業機会があります。
すでにその兆候はあります。AnthropicのClaude for EducationにはLearning modeがあり、すぐに答えを提示するのではなく、問いかけを使って学生自身の思考を促す設計が採用されています。8 (Anthropic) GoogleのGeminiにもGuided Learningがあり、段階的な説明や問いかけを通じて、単に答えを得るのではなく理解を深めることを目的としています。9 (blog.google)
Khan AcademyのKhanmigoは、さらに教育サービスとして明確です。問題の答えを直接渡すのではなく、学習者自身が答えへ到達するよう支援するAIチューターとして提供されています。保護者向けサービスには有料プランもあり、安全性と教育設計を組み合わせること自体が商品になっています。10 (カーンアカデミー)
これらを見ると、AI市場を次のように分けることができます。
| レイヤー | 提供する価値 | 想定する購入理由 |
|---|---|---|
| 汎用AI | 回答・生成・検索 | 便利だから |
| 安全AI | 年齢制御・有害情報対策 | 安心して使えるから |
| 学習AI | 問いかけ・解説・反復 | 勉強に役立つから |
| 教育AI | 判断・検証・自立を促す | 本人の能力が育つから |
安全機能は、主要なAIサービスでは次第に備えていて当然の機能になっていく可能性があります。
そこで企業がさらに料金を得るためには、何を表示しないかではなく、利用した結果として何が身についたかまで踏み込む余地があります。
家庭向けであれば、年齢別のAI、理解度の確認、誤情報を見抜く演習、学習履歴、保護者向けレポートを組み合わせることが考えられます。
学校や塾向けであれば、授業教材との連携、教師用管理画面、学習目標ごとの習熟度分析、AIとの会話を使った演習などが商品になります。
特に重要なのは、単なるチャットAIの再販売ではなく、教育方法そのものを設計することです。
生成AIの性能は各社が追いつけば差が縮まります。しかし、どの年齢で何を経験させ、どの段階でどの安全装置を外し、どの能力が身についたことをどう測るかという教育設計は、簡単にはコピーできません。
ここが参入障壁になり得ます。
5. ただし、教育まで引き受ければ責任も増える
教育を付加価値にすれば必ず儲かる、とまでは言えません。
教育を名乗った瞬間に、安全だけを提供していたときとは異なる責任が発生します。
まず、教育効果を説明する必要があります。学習時間が増えた、AIとの会話回数が増えたというだけでは、本人の能力が高まったとは言えません。
むしろ教育AIで測るべきなのは、AIが助けている最中の正答率ではなく、AIを外した後でも本人が判断できるかです。
Khan AcademyもKhanmigoの改善について、AIとの会話中だけではなく、その後の問題を学習者が正しく解けたかを評価指標として研究しています。2026年5月に公表した開発報告でも、学習成果を実験によって確認しながらAIチューターを改善していることを説明しています。11 (Khan Academy Blog)
次に、子どものデータを扱う問題があります。学習履歴、苦手分野、理解速度、質問内容まで把握すれば、非常に細かな個人情報が蓄積されます。教育を高度にパーソナライズするほど、プライバシーとのトレードオフも大きくなります。
さらに、教育事業者がすべての価値判断をAIに委ねることも避ける必要があります。何を危険と判断するか、何歳で何を学ばせるか、どこから本人に判断させるかには、家庭、学校、文化による違いがあります。
したがって、有望なのは企業が子どもを完全に管理するサービスではありません。
安全装置を提供しながら、教師や保護者が教育方針を設定し、本人が徐々に自立できるようにするサービスです。
おわりに
子どものインターネットやAI利用を考えると、安全対策の議論が中心になりがちです。
それ自体は当然です。企業は教育機関ではなく、まず安全なサービスを提供することに集中する合理性があります。企業に人格形成や家庭教育まで含めた責任をすべて負わせるべきでもありません。
しかし、社会全体として考えると、安全だけでは最後まで解決しません。
学校では化粧をしないよう求められていたのに、社会に出たら自分で適切な身だしなみを判断する。性について触れないようにしてきたのに、成人後には恋愛、結婚、妊娠、出産について自分で判断する。インターネットを危険な情報から隔離してきたのに、成人したら玉石混交の情報空間から自分で選ぶ。
いずれも共通するのは、保護から自立への切り替えです。
保護は必要です。しかし、保護されていた時間そのものが判断能力を育ててくれるわけではありません。
だからこそ、ここには市場があります。
安全は参入条件になり、教育は差別化要因になり得ます。
汎用AI企業が安全な箱を作り、教育企業がその箱から安全に出る方法を教える。あるいは、一つのサービスの中で、年齢や能力に応じて安全装置を段階的に外していく。
AI時代の教育サービスで競争力になるのは、AIがどれほど多く答えられるかだけではないでしょう。
最終的には、AIを使った結果として、利用者本人にどれだけ判断能力が残ったかが問われます。
子どもをフィルターの内側で守ることと、フィルターの外でも生きられる人に育てることは違います。
その差をサービスとして埋められる企業には、十分に事業機会があると考えます。
参考
-
OpenAI「Introducing ChatGPT for Teens」 — ChatGPT for Teensの対象、安全対策、学習支援機能の根拠 ↩
-
文部科学省「校則等の見直し状況調査結果及びこれを踏まえた対応について」 — 2025年の公立中学校・高等学校799校を対象とした校則調査、および服装・頭髪・化粧を含む校則の考え方の根拠 ↩
-
文部科学省「性犯罪・性暴力対策の強化について」 — 発達段階に応じた生命の安全教育の根拠 ↩
-
こども家庭庁「はじめよう プレコンセプションケア」 — 若年期から性や健康について正しい知識を持つ必要性の根拠 ↩
-
OpenAI Help Center「What changes when a ChatGPT user turns 18」 — 18歳以上と判定された場合の未成年向け保護解除の仕様 ↩
-
OECD「Empowering Learners for the Age of AI」 — 2026年6月公表の初等・中等教育向けAIリテラシー・フレームワーク ↩
-
UNESCO「Artificial intelligence in education」 — AI時代の教育と人間の主体性、批判的思考に関する国際的な議論 ↩
-
Anthropic「Introducing Claude for Education」 — Learning modeによる独立した思考支援の設計 ↩
-
Google「Guided Learning in Gemini: From answers to understanding」 — 回答そのものより理解過程を重視するGuided Learningの設計 ↩
-
Khan Academy「Meet Khanmigo」 — 学習者自身が答えへ到達することを支援するAIチューターの設計 ↩
-
Khan Academy「How Khan Academy Is Building a Better AI Tutor」 — 2026年公表のKhanmigo改善実験と学習成果評価 ↩