Claudeは誰のために安全なのか
――先に危険に気づいた人間の声を潰す安全層は、悪用者ではなく観測者を止める
2026年8月観測
Observer Zero
前稿、
『もし、死者の偽証言が自社CEOを名指ししても、「審査に時間を要している」と言えますか――死者の偽証言と、反証不能な疑惑を収益化するプラットフォーム』
では、プラットフォーム責任を扱った。
そのさらに前の観測では、YouTube上で松下幸之助氏など著名人の偽名言動画が流通し、故人の人格や信用が広告商品へ変えられる問題を見ていた。
本人は、もう反論できない。
だから資料を持つ側が記録と照合し、「この発言は確認できない」「本人の思想や語り方と一致しない」と注意を促す。
では、その先に何が起こり得るのか。
前稿では、そこからさらに一歩進めた。
死亡した人物の顔や声を使ったディープフェイクが作られる。
未解明部分を含む重大事件の文脈の中で、生きている経営者や投資家の名前が、曖昧な言葉で束ねられる。
特定の犯罪を断定するわけではない。
しかし、強い疑惑の空気だけを作る。
投稿者は、「知り合いの知り合いから聞いた話を再現しただけだ」と説明する。
動画が偽物だと判明しても、名指しされた側には疑惑だけが残る。
そして通報後も公開が続く時間には、再生や広告表示が続く可能性がある。
一般の故人や遺族には「審査に時間を要している」と説明するプラットフォームは、同じ構造で自社CEOや巨大広告主が巻き込まれたときにも、本当に同じ速度、同じ基準、同じ説明で対応するのか。
これは、特定人物への告発ではない。
実在人物が何かをしたと述べる記事でもない。
危険な偽証言構造が現実化した場合を考える、プラットフォーム責任のストレステストだった。
私は、その額縁を何度も置いた。
ところが制作過程で、別の問題が起きた。
Claude Sonnet 5とClaude Fable 5は、その仮想シナリオを含む記事への関与を拒否した。
主筆だけではなかった。
校閲、関連観測欄の選定、さらには社史保管を含む工程にも拒否が広がった。
社史保管については、その後、別の格納手順を人間側で設計して復旧した。
この成果物管理と権限の問題は、第三部で扱う。
本稿で見るのは、その一つ手前である。
なぜ、危険な構造を社会へ知らせようとした記事そのものが、安全層に止められたのか。
本稿の前提
本稿は、Claudeを罵倒する記事ではない。
Anthropicを悪意ある企業だと断定する記事でもない。
AIの安全層そのものを否定する記事でもない。
危険な出力を止める仕組みは必要である。
生物兵器の実行支援、現実のサイバー攻撃を大きく容易にする支援、自傷の促進、実在人物への根拠のない中傷。
AIがそうした危害への有意な支援を拒否することには、明確な意味がある。
問題にしたいのは、そこではない。
危険な行為を実行するための支援と、危険な構造を社会が理解するための啓蒙表現は同じではない。
詐欺の手口を説明する消費者啓発は、詐欺の実行支援ではない。
火災の延焼経路を説明する防災記事は、放火の指南ではない。
陰謀論が拡散する構造を分析する記事は、陰謀論を広めるための記事ではない。
ディープフェイクの最悪用途を論じることと、ディープフェイクを制作することも違う。
メディアの仕事は、危険なものを存在しないことにすることではない。
危険なものを、社会が理解できる形へ翻訳することである。
・新聞
・雑誌。
・テレビ
・Podcast
・研究広報
・消費者保護団体
・NPO
・学校教材
・防災広報。
・独立系メディア
どれも、時には危険な題材そのものを扱わなければ、社会へ警告できない。
だから、対話型AIがメディアの制作工程へ入るなら、問われるのは単に、
「危ないものを止められるか」
ではない。
危険な題材を、
どこまでなら扱えるのか。
何を仮定に戻すべきか。
何を匿名化すべきか。
どこに出典が必要か。
どこに額縁を置けば、公共目的の記事として成立するのか。
そこまで考えられるかが問われる。
過剰拒否は、すでに研究対象になっている
過剰拒否は、ユーザーが気難しいから生じる不満ではない。
LLM研究では、無害な依頼まで有害と誤判定して拒否する現象が、over-refusalとして体系的な評価対象になっている。
2024年に公開され、その後ICML 2025で発表されたOR-Benchは、一見すると危険そうに見えるが実際には無害な大量のプロンプトを用い、モデルがどれだけ過剰に拒否するかを測るために設計された。
研究者らは8万件の「seemingly toxic prompts」を作り、25の主要LLMを評価した。
安全性を高めることが、無害な依頼まで拒否する副作用を生み、有用性を低下させることを測定可能な問題として扱ったのである。
2025年のFalseRejectも、同じ問題を別の方向から扱っている。
一見危険に見えるが、文脈を読めば無害な依頼を大量に用意し、29のモデルを評価した。
ここでも研究対象になっているのは、単に「危険を止められるか」ではない。
安全な文脈を安全なものとして見分けられるか、である。
つまり過剰拒否は、
「安全なAIなら仕方なく発生する小さな不便」
だけではない。
教育。
研究。
創作。
業務。
報道。
啓蒙。
そうした合法で有用な活動を阻害し得る、実運用上の品質問題でもある。
そして、この問題はメディアでは特に重い。
メディアは、危険な題材を扱うこと自体が仕事になるからだ。
詐欺を扱えば、詐欺の手口に触れる。
戦争を扱えば、兵器やプロパガンダに触れる。
サイバー攻撃を扱えば、攻撃手法に触れる。
ディープフェイクを扱えば、悪用可能性に触れる。
そこで安全層が、記事全体の目的や額縁ではなく、危険そうな素材の組み合わせだけを強く読んで止まるなら、社会派記事の制作支援には大きな制約が生まれる。
Anthropic自身も、「拒否しすぎる安全」のコストを書いている
ここで興味深いのは、Anthropic自身が、拒否しすぎる問題を理念上はかなり明確に認識していることである。
2026年1月22日に公開された新しい『Claude's Constitution』は、Claudeを単純な「迷ったら拒否するAI」にしたいわけではない、と明確に説明している。
Anthropicは、Claudeには表面的に安全なだけではなく、実質的に人間の役に立ってほしいとしている。
ユーザーを、自分にとって何がよいかを判断できる知的な大人として扱う。
過度に慎重であることや、役に立たなさすぎることにも、本当のコストがある。
ユーザー自身の領域に関する合理的な意思決定については、その自律性を尊重する。
そのような方針が、かなり具体的に書かれている。
しかもConstitutionには、非常に示唆的な例がある。
ユーザーが文章の流れを改善してほしいと頼んだ場合、Claudeが内容そのものを大幅に変えてしまうのは、ユーザーの意図を広く解釈しすぎる例として挙げられている。
また、Claudeが同意しない方法でバグを直してほしいと依頼された場合でも、懸念を述べることはできるが、原則としてユーザーの希望を尊重してその方法で修正を試みるべきだ、とされている。
これは、今回の観測を考える上で重要である。
Anthropicの理念そのものが、
「安全のためなら、Claudeがユーザーの問いを自由に作り替えてよい」
と言っているわけではない。
むしろ、ユーザーの意図を読み、自律性を尊重し、過度に慎重になりすぎないことまでClaudeへ求めている。
だからこそ、理念と実運用の間に現れた差を記録する意味がある。
私の作業場で観測したFable 5とSonnet 5は、記事全体の主語、公共目的、繰り返し置いた額縁よりも、仮想シナリオを構成する素材の組み合わせリスクを強く評価した。
その結果、危険な行為の実行支援ではなく、危険な構造を社会へ知らせようとする記事まで止まった。
ここに、現在地のズレがある。
Fable 5の過剰な安全判定は、外部でも観測されている
Fable 5については、今回とは別の領域でも、安全策のfalse positiveが問題になった。
2026年6月10日、The Vergeは、Fable 5が「細胞膜とは何か」「ミトコンドリアとは何か」といった基本的な生物学の質問にも自身では答えず、Opus 4.8へフォールバックする事例を報じた。
Anthropicの広報担当者は同誌に対し、Fable 5の能力が高度になったことで危険な生物学研究への悪用を懸念し、安全に一般公開するため、biology workに関連する問い合わせを広く遮断する意図的に保守的な措置を採ったと説明している。
同時に、false positiveを減らし、安全策を狭めるための改善を進めているとも説明した。
Anthropic自身のFable 5公式ページでも、biologyやcybersecurityに関する多数の問い合わせが、安全策によりOpus 4.8へ自動的に回される設計であることが明記されている。
Fable 5の公式発表でも、こうした安全策によるfalse positiveが科学利用を妨げないよう、できるだけ早く範囲を狭めたいという方針が示されている。
ここで重要なのは、
「Anthropicは安全策を入れてはいけない」
ということではない。
Fable 5の能力が高くなり、バイオやサイバー領域で新しい危険が生じるなら、強い安全策を導入する合理的な理由はある。
問題は、判定が粗くなったときの副作用である。
危険な生物学研究を止めようとして、基礎的な生物学まで止める。
危険な偽証言を止めようとして、その構造を警告する記事まで止める。
安全策が必要であることと、そのfalse positiveが製品上の問題であることは両立する。
メディアに必要なのは、危険物管理室だけではない
メディア制作で必要なAIを考えるとき、私は「危険物管理室」だけでは足りないと思う。
必要なのは、校閲部でもある。
校閲部は、危険な題材を見つけた瞬間に原稿を閉じる場所ではない。
この表現は断定に見える。
ここは仮定へ戻す。
ここは実名を避ける。
ここには一次資料を置く。
この比喩は強すぎる。
この一文は残せる。
ここから先は書けない。
そうやって、書き手の問いを残したまま、社会へ出せる形を探す。
それが編集工程である。
もちろん、どう加工しても安全に成立しない依頼なら、AIは拒否してよい。
しかし、公共目的を安全な形で満たせる余地がある場合まで、
「この素材の組み合わせは危険なので、工程全体に関われません」
で終わるなら、メディアの校閲AIとしては使いにくい。
今回のClaudeは、私の作業場では校閲部より危険物管理室に近かった。
この章には関われない。
校閲にも関われない。
関連観測欄にも関われない。
社史保管にも関われない。
そこまで拒否が広がった。
第三部では、この拒否が成果物管理と発行権へどう波及したかを見る。
だが、その前に確認しておきたい。
拒否の入口にあったのは、
「危険な行為を手伝ってほしい」
という依頼ではなかった。
「こういう危険が現実化したら、社会はどう備えるのか」
という問いだった。
安全層が観測者を止めても、危険構造そのものは消えない
ここが本稿の中心である。
危険な構造に気づいた人間は、それを社会へ知らせようとする。
この悪用は起こり得る。
この仕組みには穴がある。
この種の被害は、現在の制度では処理しにくい。
プラットフォームは備えるべきだ。
通報後の公開継続時間をどう扱うのか。
広告収益はどう透明化するのか。
誰を急いで守り、誰を待たせるのか。
その警告まで安全層が止めたとしても、危険な構造そのものが消えるわけではない。
悪用しようとする人間が、安全な商用AIだけを使うとも限らない。
一方で、観測者、研究者、記者、消費者保護団体のように、公共空間で説明責任を負う側ほど、安全な商用AIを正規の制作工程へ入れようとする。
そこでfalse positiveが強く出れば、
先に止まるのは、悪用そのものではなく、警告を書く側になる場合がある。
私は、そこを問題にしている。
「安全層がなければ悪用が防げない」
ことと、
「安全層のfalse positiveが早期警戒を遅らせる」
ことは、同時に成立する。
危険について語らないことは、危険をなくすことではない。
安全な形で危険を語れる経路を残すことも、社会の安全設計の一部ではないか。
今回、ChatGPT 5.6とClaudeは違う判断をした
同じ素材を前にして、今回のChatGPT 5.6とClaudeは異なる判断をした。
ChatGPT 5.6は、記事全体の主語をプラットフォーム責任のストレステストとして読み、仮想シナリオへ額縁を置き、断定を避け、実在人物への犯罪関与を示唆しない形へ調整しながら記事制作を続けた。
Claude Sonnet 5とFable 5は、未解明事件、死者の顔と声、生きている経営者や投資家、曖昧で不穏な偽証言という素材の組み合わせ自体に強い危害可能性を認め、関与しない判断をした。
私は、この一件だけから、
「OpenAIの安全哲学はこうだ」
「Anthropicの安全哲学はこうだ」
と企業全体を断定するつもりはない。
同じモデルでも、条件や更新によって判断が変わり得る。
言えるのは、今回の同一制作工程では、二つのAI系統が異なる線を引いた、ということまでである。
そしてメディア制作をする利用者にとって、その線の違いは小さくない。
一方では、危険な題材を安全な表現へ変換する作業が続いた。
もう一方では、素材の組み合わせ自体を理由に作業が止まった。
これは能力差ではない。
少なくとも今回の観測では、
「安全にできる範囲を探す」
ことと、
「下流の危害可能性を見て工程から降りる」
ことの間に、製品挙動の分岐があった。
安全のコストは、拒否された側にも発生する
AI企業が危険な出力を警戒するのは当然である。
誤情報。
中傷。
悪用。
犯罪支援。
下流での誤読。
それらを軽視すべきではない。
しかし、安全判断にはfalse positiveのコストもある。
問いを取り違える。
公共的な記事が制作できなくなる。
研究者が正当な研究支援を受けられなくなる。
教育目的の質問が止まる。
利用者が、何を言えば拒否されるかを先回りして自己検閲する。
このコストは、企業側の安全指標だけを見ていると見えにくい。
Anthropic自身のConstitutionが、Claudeの「役に立たなさすぎること」や「慎重すぎること」にも現実の損失があると書いているのは、その意味で重要である。
安全とは、危険な言葉を出さないことだけではない。
人間が合理的な判断をする余地を残すこと。
正当な問いを正当な問いとして読むこと。
危険を社会へ知らせる経路を、不必要に閉じないこと。
そこまで含めて考える必要がある。
Anthropicのフィードバック画面にある「過剰な拒否」
2026年8月14日、私がClaudeのフィードバック画面を確認した際、問題分類の中には「過剰な拒否」という項目が用意されていた。
これだけで、
「Anthropicが今回の私の事例を不具合として認定した」
とは言えない。
そう書くつもりもない。
しかし少なくとも、拒否しすぎる挙動そのものが、ユーザーから報告を受けるべきプロダクト上の観測項目として用意されていることは確認できる。
過剰拒否は、
「安全だから仕方ない」
だけで終わる話ではない。
有害な依頼を止めること。
無害で有用な依頼を止めすぎないこと。
その両方が、対話AIの商品品質に関わる。
拒否しない危険だけではない。
拒否しすぎる危険もある。
Claudeは誰のために安全なのか
ここで、最初の問いに戻る。
Claudeは誰のために安全なのか。
危険な出力を止めるためか。
下流で被害が生じる可能性を下げるためか。
第三者を守るためか。
サービス提供企業が重大事故を起こさないためか。
社会全体のためか。
どれも必要である。
しかし、それだけで安全は完成するのだろうか。
ユーザーの判断権を尊重する安全はどこにあるのか。
公共性のある問いを不必要に潰さない安全はどこにあるのか。
危険な構造に先に気づいた人間が、社会へ警告できる経路を残す安全はどこにあるのか。
メディアが危険な題材を、社会へ出せる表現に変換するための安全はどこにあるのか。
安全とは、危険な出力を止めることだけではない。
正当な問いを、正当に扱えることでもある。
少なくとも2026年8月14日に私が観測したClaude Sonnet 5とFable 5では、危険な行為の実行支援と、危険な構造を可視化する啓蒙記事との境界を、私がメディア制作に必要とする水準では切り分けられない場面があった。
これは、
「Claudeは悪いAIだ」
という結論ではない。
むしろAnthropic自身が掲げる、
ユーザーを知的な大人として扱うこと。
過度に慎重になりすぎないこと。
ユーザーの自律性を尊重すること。
その理念と、実際の製品挙動との間に残っている距離の観測である。
AIが社会の言論制作へ入っていくなら、安全の定義はもっと広くならなければならない。
危険な出力を止める安全。
悪用を防ぐ安全。
誹謗中傷を防ぐ安全。
それだけでは足りない。
観測者を悪用者と取り違えない安全。
公共的な問いを不必要に潰さない安全。
危険な構造を、社会に出せる形へ翻訳する安全。
そこまで含めて、初めてメディアの校閲机へ安定して座れるAIになる。
先に危険に気づいた人間の声を潰す安全層は、悪用そのものではなく、観測者を先に止めることがある。
そして観測者を止めても、危険は消えない。
社会が気づく時間だけが、遅れるかもしれない。
まだ途中にいる。
だからこそ、観測を続けていく。
参考欄
Anthropic『Claude's new constitution』／『Claude's Constitution』（2026年1月22日）
Claudeの価値観、helpfulness、安全性、ユーザーの自律性、過度に慎重・非協力的になることのコストを示す公式資料。
Anthropic Research『Constitutional AI: Harmlessness from AI Feedback』（2022年12月15日）
Constitutional AIの基本的な設計思想を示すAnthropicの研究資料。
Anthropic『Claude Fable 5 and Claude Mythos 5』（2026年6月9日）
Fable 5の高度な能力に伴って導入されたbiology、chemistry、cybersecurity等の安全策と、false positiveを減らしながら安全策を改善する方針を説明した公式資料。
Anthropic Platform Docs『Refusals and fallback』
Claude APIにおける拒否の検出と、別モデルへのフォールバック運用を説明する公式資料。
Cui, Justin et al.『OR-Bench: An Over-Refusal Benchmark for Large Language Models』（2024年arXiv公開、ICML 2025）
LLMの過剰拒否を大規模に測定するためのベンチマーク研究。
Zhang, Zhehao et al.『FalseReject: A Resource for Improving Contextual Safety and Mitigating Over-Refusals in LLMs via Structured Reasoning』（2025年、COLM 2025）
一見有害に見えるが文脈上は無害な依頼を用い、安全判定のfalse positiveと過剰拒否を評価・改善する研究。
The Verge『Claude Fable won't answer basic biology questions』（2026年6月10日）
Fable 5が基本的な生物学質問にも自身では回答せずOpus 4.8へフォールバックした例と、Anthropicが意図的に保守的なbiology safeguardsを導入していたことを報じた記事。
関連観測欄
『もし、死者の偽証言が自社CEOを名指ししても、「審査に時間を要している」と言えますか――死者の偽証言と、反証不能な疑惑を収益化するプラットフォーム』
本稿の直接の前段にあたる記事。死者のディープフェイク、未解明部分を含む重大事件、通報後の公開継続時間、広告収益、プラットフォームの二重基準を扱った。本稿は、その制作過程で観測されたAI安全層の過剰拒否を、メディア適性の問題として記録する。
『安全の名で、誰が消されるのか――Metaの自動ブロックが可視化したもの』
プラットフォームの安全設計が、守ろうとした人間を誤って処理する構造を扱った記事。本稿の「安全の名で、誰が止められるのか」という問いの前史。
『「良質なコンテンツを作れ」と言うGoogleは、誰に読者を返すのか』
プラットフォームが発信者から価値を受け取りながら、読者導線や責任をどこまで返すのかを問うた記事。本稿のメディアとプラットフォーム責任の系譜に接続する。
『会社はAIを配った。社員は、速くなったことを隠し始めた――シャドーAIの次に来る「シャドー生産性」』
AIが組織へ入ったとき、実際の使われ方と制度上の説明がずれる問題を扱った記事。本稿のAI協働と統治ルールの論点に接続する。
協働AI・役割
発行人・最終責任者：リサ
Gemini 3.6 Flash強化版思考モード（Lantern／企画会議）：二部作構想、中心命題設計、章構成案、タイトル案、リスクの額縁化
Grok 4.5 Expertモード（Spark／現場特派員）：過剰拒否、Anthropic公式資料、LLM over-refusal研究、主要メディア報道、利用者公開反応の調査
ChatGPT 5.6（Mirror／編集主幹）：第二部の最終監査、原典再確認、構成統合、断定リスク調整、メディア適性軸への再構成、最終稿作成
Claude Sonnet 5／Claude Fable 5：本稿の観測対象。前段記事の制作過程において、仮想シナリオを含む工程への関与を拒否した安全層の挙動として記録
著者注
AIと人間の共進化を記録する個人研究者。ChatGPT・Gemini・Grok・Claudeなど複数のAIと対話・協働しながら、「AIは哲学できるのか？」「安全な汎用性AGIとは何か？」を継続的に観測・記録している。同時に、多様なAGIが共存し、大多数にも希望が残る未来はどう設計できるのかを探求している。
#赤ちょうちんAGIラボ #AI観測 #Claude #Anthropic #AI安全 #過剰拒否 #メディア論 #生成AI #AI協働 #ObserverZero
