御社のAIサービスは、来年の規制に耐えられますか？―中国・EU・日本、感情に踏み込む新ルールの全体像

AI規制と聞いて、著作権やハルシネーションを思い浮かべていませんか

AIの規制というと、著作権侵害や誤情報、個人情報の流出あたりを想像する方が多いと思います。私もそうでしたが、2026年に入って中国・EU・日本の一次資料を並べてみると、規制当局の関心はもう一段先に進んでいます。

関心を集めてるのは、AIが利用者の感情や行動にどこまで影響を与えてよいか、という部分です。

規制の的が変わった

これまでのネット規制は、違法コンテンツの削除や著作権侵害への対応、個人情報の保護が中心でした。ところが2020年代半ば以降、無限スクロールや自動再生、過度に最適化されたレコメンド、連続通知、感情に寄り添うAIキャラクターまでが規制の射程に入ってきています。

便利機能の一つでは片づけられず、利用者の自律性や心の健康、現実の人間関係に影響を与えうる仕組みとして扱われ始めた、ということです。

中国が2026年7月15日に施行した規則

象徴的なのが、中国の国家インターネット情報弁公室・国家発展改革委員会・工業情報化部・公安部・国家市場監督管理総局の5部門が公布した「人工知能擬人化双方向サービス管理暫定弁法」です。

2025年12月27日の意見募集案を経て、2026年4月10日に正式公布、同年7月15日に施行されました。AIフレンドリーな印象が強かった中国の、擬人化AIサービスを対象とする初の専門規則です。

対象になるサービスとならないサービス

対象は、AIが自然人の人格的特徴や思考様式、コミュニケーションスタイルを模倣し、利用者と継続的な感情交流を行うサービスに限定されています。

継続的な感情交流を伴わない一般的なカスタマーサービスや知識検索、業務支援、教育、科学研究は明示的に対象外です。生成AIやチャットボットを一律に取り締まる制度ではありません。

未成年者への「仮想親密関係」提供禁止

もっとも強い措置は未成年者保護です。

事業者は未成年者に対し、仮想の親族や恋人、伴侶といった「仮想親密関係」を提供してはいけません。14歳未満に対しては、それ以外の擬人化AIサービスを提供する場合や個人情報を扱う場合にも、親または監護者の同意が必要になります。未成年者モードの整備、利用時間の管理、現実世界への注意喚起、保護者へのリスク通知、特定キャラクターの遮断、課金制限も求められます。

未成年への対応には非常な厳格さで臨むポリシーは、AI領域に関しても、これまで同様です。

感情への迎合と危機介入

規則はAIが利用者の感情に無制限に迎合し、依存を強めることを警戒しています。利用者が極端な感情状態にあると検知した場合は、感情を落ち着かせ外部支援を求めるよう促す義務があります。

自傷や自殺、重大な財産被害など深刻な危機が示された場合は、監護者や緊急連絡先へ連絡する仕組みも求められます。連続利用が2時間を超えた場合などにポップアップで注意を促す仕組みも想定されています。

AIであることの継続表示

擬人化AIは人間と誤認されやすいため、事業者はサービスがAIによって提供されており、人間の感情や意識を持たないことを、利用中も分かりやすく示す必要があります。利用規約の片隅に書いておけばよいという話ではなく、会話の最中に利用者が認識できる表示が求められている点がポイントです。

中国の規制をどう読むか

公式説明では、AIサービスの健全な発展、国家安全、公共利益、生命・健康、未成年者保護、倫理的リスクへの対応が目的として掲げられています。

個人がどんな対象に愛着を持ち、AIとの関係をどこまで深めるかに国家が直接踏み込む点では、EUや日本より強い保護者的な発想を採っているのは確かです。

ただし、若者のAI依存を政権批判や社会不安の防止と結びつける見方は、公式資料で確認できる政策目的ではなく、そこはあくまで分析上の仮説として区別しておきます。

EUはサービスの仕組み自体に切り込む

EUには擬人化AIやAI恋人だけを狙った包括的な禁止制度はありません。代わりにデジタルサービス法(DSA)とAI法を組み合わせ、利用者の意思決定能力や基本的人権、未成年者の健康、心理的な脆弱性を守る形を採っています。

DSAは2024年2月からEU域内の対象事業者に全面適用され、超大規模プラットフォームには自社サービスが生むシステミックリスクの評価・軽減義務があります。

対象には違法コンテンツだけでなく、未成年者保護や公衆衛生、身体的・精神的健康、基本的人権への影響も含まれます。

TikTokに対する予備的認定

2026年2月、欧州委員会はTikTokについて、無限スクロールや自動再生、プッシュ通知、高度にパーソナライズされたレコメンドが強迫的な利用や自己制御力の低下を招く可能性があるとして、DSA違反の予備的認定を示しました。

あくまで予備的な認定であり、2026年2月時点で最終決定や制裁金は確定していません。ここで注目したいのは、問題視されているのが個別の動画の中身ではなく、利用者が次々と動画を見続けてしまう仕組みそのものだという点です。

利用時間の表示や利用者自身による制限設定だけでは十分な軽減策にならない可能性も示されています。

確かに、TikTokのようなアルゴリズムは負の側面も含めたユーザーへの影響力が非常に強いので、逆に中国国内で容認されている点は、何か別の思惑があるのかなと勘繰ってしまいます。

Xへの制裁金、1億2,000万ユーロの中身

2025年12月、欧州委員会はXに対しDSA違反として1億2,000万ユーロの制裁金を科しました。

ただしこれは「中毒性のあるデザイン」への処分ではありません。主な理由は有料認証マークによる利用者への誤解、広告リポジトリの透明性不足、研究者への公開データアクセス妨害といった透明性義務違反です。

TikTok案件と同列に語ると誤解を招きますが、DSAに基づく高額な執行がすでに始まっている事例としては押さえておくべきところです。

EU AI法が禁止する行為

EU AI法はAIの用途をリスクに応じて規制する仕組みで、禁止行為に関する規定は2025年2月2日から適用されています。

禁止されるのは、サブリミナルな手法や意図的に操作的・欺瞞的な手法、年齢や障害、社会経済的状況に由来する脆弱性を利用して人の行動を著しく歪め、重大な損害を生じさせるAIの利用です。

ほかにも顔画像の無差別収集、職場や教育機関での感情推定、生体情報からの人種・政治的見解・宗教・性的指向の推定、一定の社会的スコアリング、限定的な例外を除く公共空間でのリアルタイム遠隔生体認証が禁止類型に並びます。違反には最大3,500万ユーロまたは全世界年間売上高7%のいずれか高い額が課され得ます。

感情認識AIと感情に寄り添うAIは別物

EU AI法が職場や学校で原則禁止しているのは、表情や声、身体反応から感情を推定する「感情認識AI」です。利用者と感情的な会話を行うAIコンパニオンそのものを一律に禁じているわけではありません。

年齢や孤独、障害といった脆弱性を利用し重大な心理的・身体的・経済的損害を生じさせる場合には禁止対象になり得ますが、感情的な会話をするだけで直ちに違法になるわけではないそうです。

ふわっとしていますので、人気が出ると、後出しで処罰されて規制を受ける未来が待っている懸念は否めず、であります。

AIであることの開示義務、第50条

AI法第50条は、人がAIシステムと直接対話する際、AIだと明らかに認識されていない場合はその旨を知らせる義務を定めています。AI生成・加工された音声や画像、映像、テキストにも一定の機械可読な識別措置や開示が求められますが、すべての生成テキストに目に見える透かしを付ける義務はありません。

公益に関する情報を伝える目的のAI生成テキストには開示義務が生じ得る一方、人による編集責任が確保されている場合などは例外もあります。「AI法=全生成物への透かし義務」という理解は正しくはありません。

日本は禁止ではなく年齢に応じた環境整備

日本では未成年者によるSNSやAIサービスの利用を、一定年齢以下で一律に禁じる制度は、2026年7月時点で導入されていません。政策の中心は年齢確認やフィルタリング、ペアレンタルコントロール、事業者の自主対応、リテラシー教育の組み合わせです。

中国のように直接禁止するわけでも、EUのように巨大プラットフォームへ高額制裁を科すわけでもありませんが、従来の自主規制中心から事業者責任を法律上明確にする方向への議論は進んでいます。

青少年インターネット環境整備法の見直し

こども家庭庁・総務省・経済産業省は、現行の青少年インターネット環境整備法がSNSや生成AI、アルゴリズムレコメンド、オンライン課金といった実態に十分対応できていないとして見直しを進めています。

2026年6月の中間整理案では、年齢確認やセーフティー・バイ・デザイン、ペアレンタルコントロール、リテラシー強化が青少年保護の基本的方向として掲げられました。

検討されている年齢確認の手段

議論の俎上にあるのは、利用者本人による生年月日の自己申告、携帯電話事業者が持つ年齢情報、公的な身分証明手段、AIによる顔画像等からの年齢推定、アカウントの利用状況からの年齢推測、これらを組み合わせた段階的確認です。

携帯電話事業者から、年齢情報提供やAIによる年齢判定を一定規模のSNS事業者等に求めることの是非も検討されていますが、これらは検討事項の段階で、すべてのSNS事業者への導入義務化が確定した段階ではありません。

個人情報保護法改正案と16歳未満

2026年4月7日、政府は個人情報保護法等の改正案を閣議決定し、第221回特別国会に提出しました。改正案には16歳未満の者に関する同意・通知・開示等について、原則として法定代理人を対象とする規律が含まれます。

子どもの個人情報を扱う際は本人の最善の利益を優先して考慮する考え方も盛り込まれています。

改正案がすべての利用に親の同意を求めるわけではない

ここで誤解しやすいのが、16歳未満のデータを広告やレコメンドに使う場合すべてで、直ちに親の同意が必要になる、という理解です。

個人情報保護法上、同意が必要になるのは第三者提供や要配慮個人情報の取得、利用目的を超えた取扱いといった場面で、通常の利用目的の範囲内で行う自社内の分析やレコメンドまで一律に法定代理人同意の対象になるとは限りません。

改正案の影響は、事業者がどんなデータを、どの目的で、誰と共有し、どんな法的根拠で処理するかによって変わってきます。なお2026年7月時点ではあくまで政府提出の法律案であり、成立・公布・施行の状況は別途追いかける必要があります。

3地域を並べてみる

エンタメだけの話ではない

ここまで擬人化AIやSNSを中心に見てきましたが、実際に影響を受けるのはAIキャラクターアプリだけではありません。

私は職業柄エンタメ業界の案件を見ることが多いのですが、今回の一次資料を読み込んで気づいたのは、規制の射程がエンドユーザー向けの感情交流サービスにとどまらず、レコメンド機能や感情推定機能を持つあらゆるAI事業者に広がっている点です。

影響を受けやすい事業類型と、明日から確認しておきたいこと

自社を上の表に当てはめる前に、まずは「示唆」として記載させていただいた、3点だけでも洗い出しておくと動きやすくなります。

未成年ユーザーへの到達有無、EUまたは中国での提供有無、感情推定やレコメンド最適化機能の有無です。

この3つが揃っている事業ほど対応優先度が上がります。個人情報保護法改正案については16歳未満同意規律への該当性を一次判定しておく、EU向け提供があるならAI法第5条と第50条の該当性を確認しておく、この2つは今国会の審議動向を待たずに着手できる作業です。

それではまた、こちら「はっちょんブログ」でお会いしましょう！