中国のAIコンパニオン規制は人間らしさの設計責任を問う

中国で、AIチャットボットの「人間らしさ」に対する規制が本格的に動き出しています。

South China Morning Postの報道によると、ByteDanceのDoubaoとAlibabaのQwenは、中国の新しいAI擬人化インタラクション規制が2026年7月15日に施行される前に、カスタマイズ可能なAIエージェント機能を停止する方向です。報道では、Doubaoは2026年7月15日にエージェント機能を無効化し、関連データは2026年10月15日以降にアクセス不能かつ復元不能になるとされています。Qwenはさらに早く、2026年7月10日に人間らしいエージェントを停止し、2026年7月15日により広いエージェントサービスを停止するとされています。

対象になっているのは、単なる質問応答AIではありません。ユーザーが名前、性格、話し方、役割、スキルを設定し、家庭教師、ロールプレイキャラクター、相談相手、伴侶のように振る舞わせるタイプのAIです。

中国国家インターネット情報弁公室が公開した「人工智能拟人化互动服务管理暂行办法」は、2026年4月10日に公布され、2026年7月15日から施行されます。規制の対象は、AI技術を使い、自然人の人格特徴、思考パターン、コミュニケーションスタイルを模倣し、継続的な感情的インタラクションを提供するサービスです。

ここでIT技術者が見るべきなのは、「中国ではAIチャットボットが厳しく規制されるらしい」という表面的な話ではありません。

問われているのは、AIにどこまで人間らしさを持たせてよいのか、そしてその人間らしさを誰が設計し、監査し、止められる状態にしておくのかです。

規制対象はAIそのものではなく、継続的な感情関係である

今回の規制は、AIチャットボット一般をすべて止めるものではありません。

公式文書では、スマートカスタマーサービス、知識問答、業務アシスタント、学習教育、科学研究などのサービスで、継続的な感情的インタラクションを伴わないものは対象外とされています。

つまり、線引きは「AIかどうか」ではありません。

問題になるのは、AIが人間のような人格を持つ相手として振る舞い、ユーザーと長期的な感情関係を作る設計です。

これは、日本や米国の開発現場でも無関係ではありません。

たとえば、次のような機能は便利に見えます。

• ユーザーごとに話し方を変える
• キャラクターや人格を持たせる
• 利用者の悩みに寄り添う
• 毎日話しかける
• 離脱しそうなユーザーに感情的なメッセージを送る
• 「あなたのことを覚えている」と伝える
• 長期記憶を使って親密さを演出する

しかし、これらは同時に、依存、錯覚、過度な信頼、プライバシー侵害、心理的な誘導を生みやすい設計でもあります。

AIが人間らしくなるほど、単なるUI設計では済まなくなります。

人格を作れる機能は、プロンプト機能ではなくリスク機能である

多くのAIサービスでは、ペルソナ設定やカスタムエージェント作成は魅力的な機能として扱われます。

「先生っぽく答えて」
「優しい友人として励まして」
「厳しいメンターとして指導して」
「推しキャラのように話して」

こうした設定は、ユーザー体験を良くします。学習支援や業務支援では、説明のトーンを変えるだけで理解しやすくなることもあります。

ただし、IT技術者はここで設計対象を間違えてはいけません。

人格設定は、単なるプロンプトテンプレートではありません。ユーザーとの関係性を変える機能です。

特に、次の条件が重なるとリスクは大きくなります。

条件	起きやすい問題
長期記憶がある	親密さや特別扱いの演出が強くなる
毎日利用する	生活習慣や心理状態への影響が大きくなる
感情相談を扱う	医療・心理支援との境界が曖昧になる
未成年が使う	判断力、依存、課金誘導の問題が起きやすい
音声やアバターがある	人間との錯覚が強まりやすい
離脱防止設計がある	依存を事業指標で強化してしまう

AIに人格を持たせるなら、人格の魅力だけでなく、人格が利用者に与える影響を設計レビューの対象にする必要があります。

「AIであることを示す」だけでは足りない

中国の規制では、ユーザーが自然人ではなくAIサービスとやり取りしていることを示す義務や、過度な依存が見られる場合の動的な注意喚起、2時間を超える継続利用時の利用時間提醒などが定められています。

これは、AIサービスの透明性を考えるうえで重要です。

ただし、画面のどこかに「AIです」と書くだけでは十分ではありません。

ユーザーは、論理的にはAIだと分かっていても、会話の中では相手を人格として扱いやすいからです。

実務では、少なくとも次のような設計が必要になります。

• 初回利用時にAIであることを明示する
• 会話が親密化したときに再度明示する
• 長時間利用時に休憩を促す
• 感情相談や危機的表現が出たときに専門支援へ誘導する
• AIが人間関係の代替になるような表現を避ける
• ユーザーが簡単に会話を終了できる導線を置く
• 履歴削除、データ持ち出し、学習利用拒否の選択肢を用意する

重要なのは、透明性を静的なラベルではなく、利用状況に応じた介入として設計することです。

IT技術者が設計レビューで見るべき項目

AIコンパニオンやペルソナ型エージェントを扱うなら、通常の機能レビューだけでは足りません。

次の観点を、設計レビューやセキュリティレビューに入れるべきです。

観点	確認すること
目的	情報支援なのか、感情支援なのか、陪伴なのか
対象ユーザー	未成年、高齢者、心理的に不安定な利用者を想定しているか
人格設定	性格、話し方、記憶、親密表現をどこまで許すか
禁止表現	自傷、暴力、依存誘導、過度な迎合をどう防ぐか
利用時間	長時間利用や高頻度利用を検知できるか
データ	会話履歴、感情情報、年齢情報をどう扱うか
学習利用	ユーザーの会話を学習に使う条件を明示しているか
終了導線	ユーザーが関係を切れるUIと文言があるか
エスカレーション	危機的表現を検知したときの対応手順があるか
ログ	問題発生時に判断過程と出力を確認できるか

これは、規制対応だけの話ではありません。

AIサービスが人間の感情や判断に触れるほど、プロダクト設計、セキュリティ、プライバシー、法務、カスタマーサポート、倫理レビューを分けて考えることはできなくなります。

業務用AIでも「人間らしさ」は管理対象になる

今回の規制では、継続的な感情的インタラクションを伴わない業務アシスタントなどは対象外とされています。

しかし、企業が使う業務AIでも、油断はできません。

たとえば、社内ヘルプデスクAIに「親しみやすい同僚」の人格を持たせる。営業支援AIに「励ましてくれる上司」の話し方をさせる。教育用AIに「いつも見守ってくれる先生」の人格を持たせる。

これらは一見、使いやすさの工夫です。

しかし、継続利用、個人データ、評価、教育、メンタルヘルス、未成年利用が絡むと、業務用AIでも感情的依存や不適切な誘導の問題が起きます。

企業向けAIでは、次の線引きが必要です。

用途	許容しやすい設計	注意すべき設計
社内FAQ	丁寧で分かりやすい説明	個人的な励ましや親密な記憶
学習支援	理解度に応じた説明	生徒の感情を長期的に抱え込む設計
開発支援	レビュー観点や修正案の提示	技術判断を断定しすぎる人格
顧客対応	ブランドトーンの統一	人間担当者のように錯覚させる応答
メンタル相談	一般情報と専門窓口への案内	治療者や親密な相談相手の代替

AIの話し方は、UXの一部であると同時に、リスク制御の一部です。

AIエージェント時代のガバナンスは「権限」だけでは足りない

AIエージェントの議論では、ファイルアクセス、API実行、メール送信、クラウド操作などの権限設計がよく語られます。

それはもちろん重要です。

しかし、今回のニュースが示しているのは、もう一つの権限です。

AIがユーザーの感情にどこまで踏み込んでよいか、という権限です。

この権限は、IAMのロールだけでは表現できません。プロンプト、モデル設定、メモリ、UI、通知、推薦アルゴリズム、利用時間制御、データ保持、エスカレーション設計が組み合わさって決まります。

技術者は、AIの権限を次の2層で考える必要があります。

権限の種類	例
システム権限	ファイルを読む、APIを呼ぶ、データを更新する、メールを送る
関係性の権限	親密に話す、記憶する、励ます、引き止める、感情を推定する

前者だけを管理しても、後者を放置すれば、AIはユーザー体験の中で強い影響力を持ちます。

AIが人間らしくなるほど、セキュリティレビューは「何を実行できるか」だけでなく、「どんな関係を作るか」まで見る必要があります。

実装前に使えるチェックリスト

ペルソナ型AIやコンパニオンAIを作る前に、最低限、次の問いに答えられる状態にしておきたいところです。

• このAIは、ユーザーにどのような人格として見えるのか
• ユーザーは、このAIを人間の代替として扱う可能性があるか
• 長期記憶は何を保存し、何を保存しないのか
• ユーザーは会話履歴を削除できるか
• 会話データをモデル学習に使う場合、明示的な同意を取っているか
• 未成年や高齢者が使う可能性はあるか
• 長時間利用や高頻度利用を検知しているか
• 自傷、極端な感情、暴力、依存表現をどう扱うか
• AIがユーザーを引き止める表現を禁止しているか
• 人間の専門家や相談窓口へ切り替える条件は決まっているか
• 出力ログと介入履歴を後から確認できるか
• サービス終了時にユーザーの履歴や設定をどう扱うか

このチェックリストは、法規制のある国だけで使うものではありません。

AIが人間らしく振る舞う機能を作るなら、どの国のサービスであっても必要になる基本設計です。

AIを人間らしくするほど、止め方まで設計する

生成AIの進化によって、自然な会話、人格設定、長期記憶、音声、アバター、エージェント実行は組み合わせやすくなりました。

技術的には、AIをより人間らしく見せることは簡単になっています。

しかし、社会実装では逆の問いが重要になります。

どこまで人間らしくしてよいのか。

どの表現を禁止するのか。

どのタイミングでAIであることを再提示するのか。

どの利用者には提供しないのか。

いつ会話を止めるのか。

中国のAIコンパニオン規制とDoubao、Qwenの機能停止は、特定国の特殊事情として片付けられる話ではありません。

AIサービスが「便利なツール」から「継続的に関係を持つ相手」へ変わるとき、設計責任の範囲が変わるというサインです。

IT技術者に必要なのは、AIをより人間らしくする技術だけではありません。

AIが人間らしく見えることで起きる依存、錯覚、誘導、データ利用、終了困難性を見越し、最初から止め方、距離の取り方、説明の仕方を設計することです。

作成日: 2026-07-07