AIであることを告げる義務 / EU AI Act 50条の適用開始と開示の効き目 雑感

0　アブストラクト

　相手が人ではなくAIであると告げさせる義務は、AI規制の中で最も同意を得やすい規律に見える。しかし、告知が現に人の判断や被害の発生を変えるのかどうかは、それとは別の問いである。本稿は、2026年8月2日に適用が始まる欧州連合（EU）のAI法（EU AI Act）50条の透明性義務を軸として、米国州法の先行例と、人間のAI識別能力や開示の効果に関する実証研究を交えながら、開示義務の効き目がどこに現れるのかを検討し、あわせて横断的な開示義務を持たない日本の立ち位置を確かめる。

　素材とするのは、AI研究者Lance Eliotが2026年7月13日にForbesに寄せたコラムである。同コラムは、チャットボットにAIであることを名乗らせる法制を常識的な立法と評しつつ、人々は本当にAIと人を取り違えているのか、この種の法律は中身よりも体裁が先行するものにとどまらないかという疑問を投げかけ、明白性の例外条項が生む不確かさを指摘する。本稿はこの疑問を出発点に置く。

Ⅰ　EU AI Act 50条の骨格と適用開始前夜

　本稿の執筆時点で、EU AI Act 50条の適用開始まであと数日である。Eliotのコラムは、この8月2日という期日を、チャットボットが自らAIであると名乗り始める日として紹介し、常識的でありながら効き目の不確かな立法の典型例として論じた〔注1〕。EU AI Act（Regulation (EU) 2024/1689）は2024年8月に発効した後、段階を追って適用が開始されており、透明性義務を定める50条は、規則の本体部分とともに2026年8月2日から適用される〔注2〕。

1　AIであることの告知と生成物の機械可読な標識

　50条1項は、自然人と直接対話することを意図したAIシステムについて、相手がAIと対話していることを知らされるように設計・開発する義務を提供者に課す。合理的に情報を得ており、注意深く思慮のある自然人の観点から、状況上それがAIとの対話であることが明白な場合には、義務は外れる。犯罪の捜査等のために法律上認められたシステムにも例外が置かれている。

　2項は、音声、画像、映像又は文章を生成するAIシステムの提供者に対し、出力を機械可読な形式で標識し、人工的に生成又は操作されたものとして検出可能にする義務を課す。文法修正のような補助的編集にとどまる場合は対象外とされる。このほか50条は、感情認識や生体分類にさらされる人への告知を3項で、ディープフェイクの表示と、公共の関心事項について公衆に情報提供する目的で公表されるAI生成文章の表示を4項で、それぞれシステムを業務利用する者の義務として定める。4項の文章表示義務は、人による内容の確認を経ており、かつ編集責任の所在が明らかな場合には適用されない〔注3〕。

　運用の細部は解釈指針が補う。草案段階のガイドラインから、自律的にタスクを遂行するAIエージェントも1項の対象に含まれること、明白性の判断は、対象となる利用者層を特定した上でその層の平均的な構成員の水準を評価するという二段階で行うこと、告知は明確かつ判別可能な方法で遅くとも最初の対話又は接触の時点までに行う必要があり、利用規約の奥に埋め込んだ記載では足りないことが示されていた〔注4〕。義務は高リスクAIシステムに限定されず、オープンソースのシステムも除外されない。違反には、1500万ユーロ又は全世界年間売上高の3%のいずれか高い方を上限とする制裁金が予定されている〔注5〕。

2　ガイドラインと行動規範は期限の直前に滑り込んだ

　適用開始を前に、解釈と実務の道具立ては駆け足で整えられてきた。欧州委員会は2025年9月に意見募集を開始し、2026年5月8日にガイドライン草案を公表して同年6月3日まで再度の意見を募り、7月20日に最終的なガイドラインを採択した。執行は加盟国の市場監視当局が担い、AI事務局（AI Office）と欧州データ保護監督機関がそれぞれの所管で補完する〔注6〕。並行して、AI事務局の関与の下、提供者や市民社会、技術専門家等が参加する起草過程を経て、2項・4項・5項の遵守を支えるAI生成コンテンツの透明性に関する行動規範が作られた。2025年11月の起草開始から、同年12月17日の第一次草案、2026年3月3日の第二次草案を経て、同年6月10日に最終版が公表され、欧州委員会とAI委員会（AI Board）は、これを義務の遵守を示す適切な任意の手段として確認している。署名しない提供者・利用者は、標識・表示義務の遵守を同等の代替手段によって個別に示す必要があり、表示用のEU共通アイコンも用意された〔注7〕。

　他方、2025年11月に提案されたデジタル・オムニバスによるAI Act改正は、高リスク規律の適用先送りを中心とするが、50条については、2026年8月2日より前に上市された生成AIシステムの機械可読標識義務に限り同年12月2日までの経過措置を設ける内容で、2026年5月7日に立法機関間の暫定合意に至った。8月2日より前に生成・公表済みのコンテンツに遡って標識を付すことも求められない。1項の対話告知を含むその余の義務の適用開始日は、本稿執筆時点で動いていない〔注8〕。適用開始のわずか2週間前に解釈指針が確定するという進行は、汎用AIモデル規律の行動規範でも見られた光景であり、規範の細部が期限を追いかける形で確定していく運用が常態化しつつあるようにも見える。

Ⅱ　米国州法の先行と細分化

　Eliotが一部の州に類似法があると述べるとおり、米国では連邦の横断法を欠いたまま州法が先行してきた。ただしその姿は、EUの水平的義務とはかなり異なる。最初期のカリフォルニア州SB 1001（2018年成立、2019年7月1日適用）は、商取引の勧誘又は選挙の投票への影響を目的として、人工的な素性について相手を誤認させる意図でボットを用いることを違法とし、ボットであることを明瞭に開示すれば責任を免れるという構造を採った〔注9〕。欺罔の意図と特定の目的に絞られた、狭い規律である。ユタ州のAIポリシー法（SB 149、2024年5月1日施行）は、消費者保護法制の適用場面では尋ねられたときに生成AIの利用を明瞭に開示する義務を、州の資格を要する職業では役務提供の冒頭で自発的に開示する義務を課したが、2025年の改正により、前者は明確に尋ねられた場合と高リスクの対話場面に絞り込まれた〔注10〕。

　EU50条1項に最も近い横断型を法定したのはコロラド州であった。2024年成立の同州AI法は、消費者と対話することを意図したAIシステム一般について、合理人にとって明白な場合を除き、AIとの対話であることの開示を義務付けていた〔注11〕。もっとも、2026年2月1日とされた適用開始は特別会期の改正で同年6月30日に延期され〔注12〕、その期日を迎える前の2026年5月14日、義務内容を大幅に縮小し適用開始を2027年1月1日へ再延期する改正法に置き換えられた〔注13〕。米国で唯一の横断的な対話開示義務は、一度も効力を生じないまま姿を変えたことになる。

　これに対し2025年以降の州立法は、コンパニオン型チャットボットという接点に照準を移している。カリフォルニア州SB 243（2026年1月1日施行）は、合理人がチャットボットとの対話を人との対話と誤認しうる場合に、人工的に生成されたものであり人ではない旨の明瞭で目立つ通知を義務付け、未成年と知りながら対話させる場合には、AIであることの開示に加えて3時間ごとに休憩とAIである旨を想起させる通知を求め、私人の訴権も付与した〔注14〕。ニューヨーク州も2025年11月5日にAIコンパニオンに関する規律を発効させており〔注15〕、対話の開始時と、継続する対話では少なくとも3時間ごとの告知を求める。2025年の主要な州チャットボット法案7本のうち6本が利用者への開示要件を含み、メイン州も明瞭かつ目立つ方法での開示を求める法律を制定したとの整理がある〔注16〕。米国の開示規律は、欺罔の意図に基づく古典的な規律から、被害の生じやすい利用場面ごとの義務へと重心を移しつつある、と整理できよう。

　EUとの対比で目を引くのは、合理人基準の使われ方である。EUとコロラドは明白なら告げなくてよいという例外構成を採り、カリフォルニアSB 243は誤認しそうなら告げよという要件構成を採る。両者は裏返しの関係にあるだけで、告知の要否を合理人の認識に委ねる点では共通しており、Eliotが指摘する不確かさと抜け道の懸念は、大西洋の両側に同じ形で存在すると思われる。

Ⅲ　開示の効き目はどこに現れるか

1　人はもはやAIを見分けられないという実証

　そもそも混同など起きていないのではないかという問いに対しては、実証が一つの答えを持っている。Jonesらが2025年に公表した事前登録済みの実験では、審査者が人間とシステムの双方と5分間同時に会話してどちらが人間かを選ぶ三者間チューリングテストにおいて、人物像を演じるよう指示されたGPT-4.5は73%の割合で人間と判定され、比較対象となった本物の人間よりも人間らしいと判断された〔注17〕。Eliotもこの論点が2022年11月のChatGPT公開以降に切実さを増したと位置付けるが、言語能力の向上が対話からの識別をほぼ不可能にしたという理解は、印象論ではなく測定の裏付けを持ちつつある。告知には、失われた識別能力を代替する固有の情報価値がある、と考えうる。

　この実証は、明白性の例外が静的な基準でないことも照らし出す。性能が上がるほど、対話それ自体からAIらしさを見て取ることは難しくなり、例外の領域は狭まって義務の射程はむしろ広がる。他方で、AIとの対話が日常の常識になれば、文脈上すべてが明白だという主張の余地も広がる。同じ条文が逆方向の二つの読み方に開かれているのであり、ガイドラインが示す利用者層ごとの二段階判断は、この動く基準を運用するための装置と読める。

2　開示の信頼コストと告知の形骸化

　告知に情報価値があるとしても、それが行動を変えるかは別問題である。SchilkeとReimannは、13の実験を通じて、業務にAIを使ったことを開示した行為者は開示しない行為者よりも一貫して信頼されなくなることを示し、正統性の知覚の低下がその経路であると分析した〔注18〕。文脈は業務上のAI利用の開示であって、チャットボットの自己申告そのものではない。しかし、開示には開示者側のコストが伴い、告知をできる限り目立たせない誘因が働くことを示す点で、50条の運用を見通す手掛かりになると思われる。義務は明確かつ判別可能な方法を要求するが、その下限がどこに置かれるかは、この誘因とのせめぎ合いの中で定まっていくのであろう。

　受け手の側にも限界がある。クッキー同意バナーを想起すれば、定型的に差し挟まれる画面上の告知が読み飛ばされていく展開は想像に難くない。初回接触時の一度きりの告知は、数か月にわたって関係が続くコンパニオン型サービスでは記憶から薄れていく。ニューヨーク州とカリフォルニア州が3時間ごとの再告知という設計に踏み込んだのは、この減衰への応答と見ることができる。中身よりも体裁が先行する立法にとどまるのではないかというEliotの懸念は、個々の利用者の行動という測定点に立つ限り、相応の根拠を持つように思われる。

3　個人の識別から情報環境の検証可能性へ

　もっとも、50条は対話画面の告知だけの規定ではない。2項の機械可読な標識は、個々の利用者の注意ではなく、検出ツールを介した第三者による検証に向けられた技術的義務であり、前章で見た行動規範と共通アイコン、署名者間の実務共有の仕組みは、その検証を域内で標準化しようとする試みである。告知が読まれるかどうかとは別の水準で、監督当局や外部の検証者が、流通するコンテンツの出自を機械的に確かめられる状態を作ることに、この規律のもう一つの重心があると読める。制裁金の存在は、悪質ななりすましの事例に介入する根拠を当局に与える点でも意味を持つ。

　情報が表示されていることと、表示から出自や判断の質を外部が検証できることは、別の問題である。開示義務の効き目を個々の利用者の選択行動で測れば小さく見え、情報環境の検証可能性で測れば違って見える。針が動くかどうかという問いへの答えは、どの針を見ているかに依存する、と整理できそうである。

Ⅳ　開示義務を持たない日本の立ち位置

1　横断的義務はなく、ソフトローが推奨するにとどまる

　日本には、50条型の横断的な開示義務は存在しない。AI推進法（人工知能関連技術の研究開発及び活用の推進に関する法律、令和7年法律第53号）は、令和7年6月4日に公布・一部施行、同年9月1日に全面施行されたが、基本理念、AI戦略本部及び基本計画の策定を定める推進法であり、チャットボット提供者に告知を求める行為規制を含まない〔注19〕。他方、AI事業者ガイドライン（第1.2版、令和8年3月31日）は、共通の指針の一つに透明性を掲げ、「AIを利用しているという事実」を含む適切な情報を合理的な範囲で関係者に提供することを事業者に促している〔注20〕。Eliotは同コラムで、開示規律を、推奨にとどめる段階から義務化する段階までの階層で整理する（前掲注1）。その整理を借りれば、日本の現在地は最も緩やかな段階に相当する、と見ることができる。

2　最も近い既存規律は景品表示法のステマ告示である

　義務としての開示に最も近い既存の規律は、AI法制の外にある。令和5年内閣府告示第19号は、事業者の表示であることを一般消費者が判別することが困難な表示を景品表示法5条3号の不当表示に指定し、令和5年10月1日から施行されている〔注21〕。秘匿が咎められるのは広告であることであって、AIであることではないから、規律の軸は50条とはずれている。しかし、人を装うチャットボットが商品や役務の推奨を行う場面を想定すると、広告主体の秘匿としてこの告示に触れる余地があり、広告規制を経由してAIの開示が部分的に強制される構図はありうる。カリフォルニアSB 1001が商取引と選挙に照準を絞ったことを思い起こせば、日本は広告の場面に限り、AIに限定しない形で似た規律を先に備えていた、と整理することもできよう。裏を返せば、広告でも資格職の役務でもない対話一般について、日本法は沈黙している。

3　EU向け提供により日本企業は既に名宛人となりうる

　50条の名宛人は域内事業者に限られない。EU域内の利用者に向けてチャットボットや生成AIサービスを提供する事業者は、拠点の所在にかかわらず提供者又は利用者として義務を負いうると整理されており〔注22〕、8月2日の適用開始と、既存の生成AIシステムの標識に関する12月2日までの経過措置は、日本企業にとっても自らの期限である。当面の課題は、初回接触時までに示す告知文言と出力への機械可読な標識の設計であり、行動規範に署名するかどうかの判断もこれに続くと考えられる。

　国内立法論としては、横断的義務を直ちに置く必要は乏しいとも思える。明白性例外の解釈負担と告知の形骸化という運用上の課題を、横断的義務は避け難く伴うからである。他方で、なりすましの被害が具体化しやすい類型、たとえば合成音声による勧誘や、未成年とコンパニオン型サービスの接点については、米国州法のように対象を絞った開示規律を個別に検討する方向はありうるであろう。その際、初回のみの告知か反復的な告知かという設計の選択が効き目を左右することは、州法の試行が既に教えている。

Ⅴ　むすびにかえて

　開示義務が針を動かすのかというEliotの問いに戻れば、その答えは測定点の選び方に依存する、と考えうる。対話画面の告知が個々の利用者の行動を大きく変える見込みは、識別をめぐる実証と開示の信頼コストを踏まえると、控えめに見るのが妥当であろう。他方、機械可読な標識と共通の表示、行動規範が用意する検証の仕組みは、当局や外部の検証者が情報環境を点検するための共通の手掛かりであり、その効き目は対話の瞬間ではなく、事後の検証の場面に現れる。8月2日は、透明性が達成される日ではなく、開示の設計をめぐる解釈と執行が始まる日であると理解される。

　日本は、義務なき透明性の国として、当面この展開を外から観察する位置にある。しかし、EU向けにサービスを提供する企業にとって、観察者の立場は既に失われている。国内の立法論もまた、横断か個別かという選択と、告知をどう設計するかという細部から考え始めるのがよいように思われる。何かの考えるきっかけになれば幸いである。

出典

（マガジン）「AIと法雑感」

※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。
P.S. This is shared for academic discussion only.