AI企業は「善良」でいられるか 利益と倫理が衝突する構造的矛盾

「善良なAI企業」という理念が揺らぐ2026年の構造的矛盾

「AI企業は善良でいられるのか」——2026年、この問いがかつてないほどの切実さを帯びています。安全性を最優先に掲げて創業されたAnthropicが米国防総省との対立の末に連邦政府から排除され、かつて「人類の利益のために」を標榜したOpenAIは営利企業への転換を完了しました。AI技術が社会の根幹に浸透する時代にあって、その開発を担う企業の倫理的な立ち位置は、もはや企業経営の内部問題にとどまりません。

本記事では、AnthropicとOpenAIという2つの象徴的な企業が直面する試練を通じて、AI企業が「善良さ」を維持しようとする試みの構造的な限界を検証します。

Anthropicの試練——「安全第一」企業が直面した政治的圧力

国防総省との対立と政府からの排除

Anthropicは2021年、OpenAIの元幹部であるDario AmodeとDaniela Amodeiの兄妹によって、「安全性を最優先するAI企業」として設立されました。Constitutional AI（憲法的AI）という独自のフレームワークを開発し、AIシステムに倫理原則を組み込むアプローチで業界の注目を集めてきました。

しかし2026年初頭、その姿勢が政治的な衝突を引き起こします。米国防総省は、AnthropicのAIモデル「Claude」をGenAI.milプラットフォーム上であらゆる「合法的用途」に使えるよう求めました。これに対しAnthropicは、完全自律型兵器や国内大規模監視への利用を禁じる条項の維持を主張します。

2026年2月24日、ピート・ヘグセス国防長官はDario Amodeiに最後通牒を突きつけました。「2月27日午後5時1分までに無制限利用を認めよ」という要求です。Amodeiはこれを拒否し、「狭い範囲のケースではあるが、AIは民主的価値を守るどころか損なう可能性がある」と声明を発表しました。

その直後、トランプ大統領は連邦機関にAnthropicの製品使用を停止するよう指示し、国防総省はAnthropicを「サプライチェーン上のリスク」に指定しました。連邦控訴裁判所もAnthropicによるブラックリスト指定の一時差し止め請求を却下しています。

安全政策の後退と内部からの警鐘

国防総省との対立が激化する最中、Anthropicは自社の看板政策でもある「責任あるスケーリングポリシー（RSP）」を大幅に改定しました。2023年に掲げた「安全対策が十分でなければモデルの訓練を停止する」という誓約——RSPの中核的な柱——が撤廃されたのです。

チーフサイエンティストのJared Kaplanは、TIME誌の取材に対し「他社がAI開発を進める中で我々だけが止まることは、世界をより安全にすることにはならない」と説明しています。新しいRSP v3.0では、従来のハードコミットメントが「公開目標」に格下げされ、拘束力のない自己評価方式に移行しました。

この改定の直前、安全対策チームの責任者であったMrinank Sharmaが辞任しています。辞任書簡で彼は「世界は危機に瀕している」と記し、「在職中、我々の価値観が行動を真に導くことの難しさを繰り返し目の当たりにしてきた」と述べました。安全を最重視するはずの企業の安全責任者が、まさにその安全への懸念から去るという皮肉な事態です。

OpenAIの変容——非営利の理念と営利の現実

公益法人への転換と巨額赤字

OpenAIもまた、「善良さ」と「利益」のあいだで揺れ動いてきた企業です。2015年に非営利団体として創設され、「人類全体の利益のためにAGI（汎用人工知能）を開発する」という崇高な理念を掲げていました。

しかし、AI開発に必要な莫大な計算資源と資金を確保するため、OpenAIは段階的に営利色を強めていきます。2025年10月、デラウェア州およびカリフォルニア州の司法長官の審査を経て、営利部門を「OpenAI Group PBC」（公益法人）として再編することが承認されました。非営利部門は「OpenAI Foundation」として存続し、約1300億ドル相当の株式を保有する構造となっています。

財務状況は深刻です。2025年前半だけで約43億ドルの収益を上げながらも、70億〜130億ドルの損失を計上しました。2026年2月時点で年間売上250億ドルに達していますが、累積損失は140億ドルに上ると予測されています。HSBCの調査によれば、OpenAIは2030年までに黒字化する見込みがなく、さらに2070億ドルの追加投資が必要とされています。

軍事契約の獲得と倫理的疑問

Anthropicが国防総省から排除された翌日、OpenAIは同省との契約を獲得したと発表しました。OpenAI側は「大規模な国内監視や完全自律型の致死的攻撃には使わせない」と主張していますが、契約の具体的な文言は公開されていません。NPRの取材に対しても、OpenAIと関係者は具体的な契約条項への回答を拒否しています。

電子フロンティア財団（EFF）は、この一連の経緯について「プライバシー保護が少数の権力者の判断に依存すべきではない」と警鐘を鳴らしています。企業の自主的な倫理方針は、政治的・経済的な圧力のもとでは容易に変容し得るという教訓です。

公益法人という器の限界——構造は倫理を保証するか

PBC（公益法人）の構造的弱点

AnthropicもOpenAIも、公益法人（Public Benefit Corporation: PBC）という企業形態を採用しています。PBCは、株主利益だけでなく社会的利益への配慮を法的に義務づける仕組みです。Anthropicはさらに「長期的利益信託（Long-Term Benefit Trust）」という独自の構造を設けています。

しかし、ハーバード・ロー・レビューに掲載された論文「Amoral Drift in AI Corporate Governance」が指摘するように、PBCの構造には本質的な限界があります。2020年に改正されたデラウェア州のPBC法では、株式の2%以上または200万ドル以上の持分を持つ株主のみが、企業の社会的ミッション履行を求めて訴訟を提起できます。一般のステークホルダーには訴訟権が与えられておらず、取締役の裁量に対する実質的なチェック機能が弱いのが現状です。

つまり、PBCという器は「善良であろうとする意思表明」にはなり得ても、「善良であり続けること」を制度的に保証するものではありません。

AI産業の寡占化がもたらすリスク

問題をさらに複雑にしているのが、AI産業の急速な寡占化です。テクノロジージャーナリストのSteven Levyが「The Blob」と呼ぶように、OpenAI、Microsoft、Google、NVIDIA、Meta、Amazonなどの企業は、投資・クラウド契約・パートナーシップを通じて相互に深く結びついています。MicrosoftがAnthropicに50億ドルを出資する一方、AnthropicはMicrosoftのクラウドに300億ドルを支出するといった関係が典型的です。

この寡占構造のもとでは、個々の企業が倫理的な方針を貫こうとしても、競合他社との競争圧力や投資家の期待、さらには政府からの圧力によって「レースの論理」に引き込まれてしまいます。Anthropicが安全政策を緩和した際の論理——「我々だけが止まっても他社が進む」——は、まさにこの構造的ジレンマを象徴しています。

EU AI法施行と著作権訴訟が示す外部規制の必要性

外部規制の進展と著作権問題

企業の自主規制に限界があるとすれば、外部からの規制が重要性を増します。EUのAI規制法（AI Act）は2026年8月に全面施行を迎え、高リスクAIシステムへの適合性評価や人間による監視の義務化が始まります。違反企業には最大3500万ユーロまたは全世界年間売上の7%の罰金が科されます。

著作権の分野でも、AI企業への法的圧力は強まっています。Anthropicは著作権侵害訴訟で15億ドルの和解に合意し（裁判所の承認手続きは2026年4月に予定）、さらにユニバーサルミュージックなどから31億ドル規模の新たな訴訟を提起されています。こうした訴訟の積み重ねは、AI企業のビジネスモデルそのものに疑問を投げかけるものです。

個人の良心と制度の設計

Anthropicの安全責任者が辞任し、OpenAIからも倫理上の懸念を理由に研究者が離職する事態が続いています。個人の良心に依存するガバナンスが持続不可能であることは明らかです。EFFが指摘するように、プライバシーや安全の保護を「少数の権力者の善意」に委ねるのではなく、制度的な枠組みとして設計する必要があります。

公益法人の構造的限界と多層的ガバナンス設計の緊急性

AI企業が「善良」でいられるかという問いへの答えは、単純な「はい」でも「いいえ」でもありません。AnthropicとOpenAIの事例が示すのは、善良であろうとする企業の意思と、それを押し流す構造的な力——競争圧力、政治的介入、資本の論理——のあいだの深い緊張関係です。

公益法人という企業形態は出発点にはなりますが、それだけでは不十分です。EU AI法のような法的拘束力を持つ外部規制、独立した監査機関、そして市民社会による継続的な監視の組み合わせが不可欠でしょう。AI技術の発展速度を考えれば、その制度設計は今すぐに始める必要があります。

参考資料:

• What the Anthropic AI safety saga is really all about - CNN
• Anthropic rejects latest Pentagon offer - CNN
• Exclusive: Anthropic Drops Flagship Safety Pledge - TIME
• OpenAI announces Pentagon deal after Trump bans Anthropic - NPR
• Anthropic–United States Department of Defense dispute - Wikipedia
• Resignation of Mrinank Sharma from Anthropic and the Future of AI Safety - BISI
• The Anthropic-DOD Conflict - Electronic Frontier Foundation
• Amoral Drift in AI Corporate Governance - Harvard Law Review
• Anthropic settles with authors in first-of-its-kind AI copyright infringement lawsuit - NPR
• OpenAI is burning billions — and an IPO won’t stave off bankruptcy - Asia Times