Anthropicはなぜ追い詰められたか〜AI倫理と軍事利用の現実

Anthropicが追い詰められている。

米国防総省が、同社との契約打ち切りを検討中だという。AIモデル「Claude」の軍事利用に制限をかけようとしているから、というのが理由だ。

話はすでに動いている。WSJの報道によれば、先月のベネズエラ作戦でClaudeが使われた。マドゥロ元大統領を拘束したあの作戦だ。Palantir経由で軍の機密ネットワークに入り、何らかの形で使用された。カラカスへの空爆で83人が死亡したとベネズエラ国防省は発表している。

Anthropicの利用規約は、暴力目的、兵器開発、監視活動への使用を禁じている。だが現場では、すでに使われている。

「安全なAI」の旗手だった

Anthropicは業界きっての慎重派として知られてきた。

2021年、OpenAIから11人が離脱して立ち上げた会社だ。CEOのダリオ・アモデイは、OpenAIで研究担当副社長を務めていた。安全性に対する考え方の違いから袂を分かったとされる。「より安全なAI開発を」という理念が、この会社の出発点だった。

完全自律型兵器には使わせない。米国民への大規模監視にも使わせない。Constitutional AIという独自の安全性アプローチを掲げ、「責任あるAI企業」としてのブランドを築いてきた。

その企業が、いま国家の前で膝を折ろうとしている。

他の3社は折れた

国防総省は4社に声をかけた。OpenAI、Google、xAI、そしてAnthropic。求めたのは「あらゆる合法的な目的」での使用許可だ。兵器開発、情報収集、戦場作戦を含む包括的な承認。

Anthropic以外の3社は、この条件を飲んだ。

Googleには前科がある。2018年、Project Mavenをめぐって社内で大規模な抗議運動が起きた。ドローン映像の解析に機械学習を使う国防総省のプログラムだ。数千人の従業員が反発し、Googleは契約を更新しなかった。Palantirが引き継いだ。

だが7年経って、Googleの姿勢は変わった。いまは国防総省と契約を結び、GeminiのカスタムバージョンをPentagonに提供している。

xAIはイーロン・マスクの会社だ。トランプ政権との距離は説明するまでもない。昨年9月には連邦政府機関へのGrok提供で合意している。DOGEのトップだった男の会社が、軍との契約を断る理由はない。

OpenAIも「安全性重視」を掲げてきた企業だが、最近は姿勢が変わりつつある。軍事利用への門戸を開いた。

残ったのはAnthropicだけだ。

「合法」の範囲は広い

「あらゆる合法的な目的」。この言葉が問題の核心だ。

戦争行為の多くは国際法上、合法とされる。完全自律型の殺傷兵器だって、明確に禁じる国際条約は今のところない。「合法」の範囲は、私たちの想像よりずっと広い。

Anthropicが引こうとしている線は、法律ではなく倫理の線だ。完全自律兵器はダメ。米国民への大規模監視もダメ。それが彼らの守りたい一線だった。

だが実運用を考えれば、そんな切り分けは機能しない。戦場で「この使い方は利用規約に抵触しないか」と確認している暇はない。一度納入すれば、現場でどう使われるかをコントロールする術はない。

軍に渡す時点で、「信頼して委ねる」か「渡さない」か。二択に近い。

サプライチェーンリスクという脅し