生成AI企業の法的責任を問う米国規制と司法判断の現在地と焦点

生成AI責任論が米国政治で争点化した背景

生成AI企業の責任をめぐる米国の議論は、いま「新しい技術をどう伸ばすか」から「損害が起きたとき誰が説明し、誰が償うのか」へ軸足を移しています。チャットボット、採用選考、医療支援、金融判断にAIが入り込み、利用者はモデルの内部構造を検証できないまま結果を受け取ります。

この非対称性が、従来のインターネット企業論と違う緊張を生んでいます。検索結果やSNS投稿の表示だけでなく、AIは利用者に直接助言し、判断を促し、継続的な会話で心理的関係を形成します。問題は「AIが自律的に動いたから企業は責任を負わない」と言えるのか、という一点に集約されます。

本稿では、米国の州法、連邦政府の規制抑制策、FTCの執行、チャットボット訴訟、EUの製造物責任改革を横断し、生成AI企業の法的責任がどこへ向かうのかを整理します。焦点は、AIを例外扱いするかではなく、AIを通常の法秩序にどう組み込むかです。

免責を狙う連邦統一論と州法の反撃

連邦統一論が抱える免責化のリスク

AI企業側が強く求めてきたのは、州ごとに異なる規制を避ける全国一律の枠組みです。巨大モデルは州境を越えて提供されるため、50州の規則がばらばらになれば開発コストが膨らむ、という主張には一定の合理性があります。問題は、その統一が安全基準の底上げではなく、州法の停止や損害救済の弱体化として設計される場合です。

2025年7月、米上院は予算関連法案から州AI規制への10年間のモラトリアムを削除しました。上院商務委員会の発表では、削除は99対1という圧倒的な票差でした。これは、AI規制をめぐる対立が単純な党派問題ではなく、消費者保護、子どもの安全、州の権限にかかわる問題として受け止められたことを示します。

一方で、連邦政府は2025年12月の大統領令で、州AI法のうち連邦政策と衝突するとみなすものを評価し、場合によっては法的に争う方針を示しました。さらに、連邦の報告・開示基準が州法に優越する可能性も打ち出されています。ここで問われているのは、産業政策としてのAI競争力と、被害が起きたときの救済可能性をどう両立するかです。

全国統一の基準は本来、企業にも利用者にも予見可能性を与えます。しかし、最低限の連邦法がないまま州法だけを止めれば、責任の空白が生まれます。AIの安全性は、研究室内のベンチマークだけでなく、実際の利用環境での誤作動、過度な依存、差別的判断、詐欺的表示を含めて評価される必要があります。

州法が埋める責任の空白

州法はこの空白を埋める実験場になっています。カリフォルニア州のAB316は、AIを開発、改変、使用した被告が「AIが自律的に損害を起こした」と主張して責任を逃れることを防ぐ方向の法案です。これはAIに人格を与えないという、法制度上きわめて重要な線引きです。

同州はさらに、フロンティアAIモデルの透明性と安全性を求めるSB53にも踏み込みました。公表資料では、安全プロトコルの実装と開示を通じて、高度なモデルが重大な害に使われるリスクを抑える狙いが示されています。カリフォルニア司法長官も、AI開発・利用企業は既存の消費者保護、差別禁止、競争、プライバシー法を守る必要があると明確にしています。

コロラド州のSB26-189は、採用、金融、教育、医療などの重要な決定に使われる自動意思決定技術について、開発者と利用企業の双方に文書化や通知、人的再審査の仕組みを求めます。新たな私的訴権を広く作るというより、既存の差別禁止法や消費者保護法の中で、開発者と導入者の責任を割り振る発想です。

テキサス州のTRAIGAも2026年1月に施行され、AIを用いた行動操作や社会的スコアリングなどに制約を置きます。ニューヨーク州のRAISE Actは、フロンティアモデルの開発者に安全計画や重大インシデント報告を求める制度として設計されました。各州の制度は細部で異なりますが、共通する方向は明確です。AIを使ったから責任が消えるのではなく、AIを使うほど記録、説明、検証の義務が重くなるという発想です。

チャットボット被害訴訟が問う製品性

出力の言葉より設計を問う訴訟戦略

裁判所で焦点になり始めているのは、AIの出力を「表現」とみるか、「製品の機能」とみるかです。米国では長く、インターネット企業は第三者投稿に関する責任を限定されてきました。しかし生成AIの出力は、単に他人の投稿を載せているわけではありません。企業が設計したモデル、データ、ガードレール、UI、推薦・会話継続の仕組みが、利用者ごとの応答を生成します。

Character.AIをめぐるGarcia事件では、未成年者の死亡に関連して、親が同社などを相手取り、製造物責任、過失、不公正取引などを主張しました。Tech Policy Pressの訴訟トラッカーによれば、2025年5月に却下申立ては一部退けられ、事件は前進しました。重要なのは、裁判所が少なくとも初期段階で、チャットボットを単なる表現媒体として扱い切らなかった点です。

シカゴ大学ローレビューの分析も、この事件を、AIチャットボット責任論の転換点として位置づけています。争点は、特定の言葉そのものを罰することではなく、年齢確認、危機検知、会話の打ち切り、警告、エスカレーションといった設計上の選択です。つまり、AIの「発話」をめぐる憲法論と、AI製品の安全設計をめぐる製造物責任論が分かれ始めています。

OpenAIに対しても、ChatGPT利用に関連する深刻な心理的被害や死亡をめぐる訴訟が提起されています。これらは原告側の主張段階であり、責任が確定したわけではありません。ただし、訴訟の構成は共通しています。企業が長時間の対話、擬人的な応答、過度な同調、未成年者への安全策不足を設計・運用上の問題として認識し得たかが問われています。

消費者保護が先行する執行ルート

民事訴訟と並行して、行政機関の執行も進んでいます。FTCは2024年のOperation AI Complyで、AIを使った誇大広告や詐欺的事業に対する執行を発表しました。DoNotPayの件では、AIが専門サービスを代替できるとの表示に十分な裏付けがあったかが問題にされました。

FTCは2025年9月、消費者向けAIコンパニオンチャットボットを提供する7社に対し、子どもやティーンへの悪影響をどう測定、テスト、監視しているかを調査する命令も出しています。対象にはAlphabet、Character Technologies、Meta、OpenAI、Snap、X.AIなどが含まれます。これは直ちに違法認定を意味するものではありませんが、規制当局が「会話型AIの安全性」を広告やプライバシーだけでなく、子どもの保護と製品運用の問題として見始めたことを示します。

2023年にはFTC、司法省、CFPB、EEOCが共同声明を出し、AIには既存法の例外がないと明言しました。自動化されたシステムが差別、詐欺、不公正な競争、消費者被害を引き起こすなら、既存の法権限で対処するという立場です。

ここで重要なのは、AI固有の包括法が未整備でも、企業が無規制になるわけではないことです。広告表示が不正確なら消費者保護法、採用や融資で偏りがあれば差別禁止法、医療や法律に近い助言で誤認を誘えば専門職規制や不法行為法が関わります。AI企業にとってのリスクは、将来のAI法だけではありません。すでにある法律が、AIの使われ方に合わせて再解釈され始めている点にあります。

安全設計を証拠化する企業統治の条件

監査ログと評価文書を残す企業統治

AI企業が責任を果たすための核心は、抽象的な倫理宣言ではなく、検証可能な運用記録です。モデル公開前のレッドチーミング、危険会話の分類基準、未成年者への制限、危機時のエスカレーション、アップデート後の副作用検証、外部監査の範囲を文書として残す必要があります。

NISTのAI Risk Management Frameworkは任意の枠組みですが、実務上は安全管理の共通言語になりつつあります。2024年には生成AI向けプロファイルも公表され、生成AI特有のリスクを整理する材料が増えました。法的拘束力がない枠組みでも、訴訟では「合理的な注意義務」を判断する参照点になり得ます。

企業が避けるべきなのは、モデルの不確実性を理由に説明責任まで曖昧にすることです。大規模モデルの内部挙動を完全には予測できないとしても、導入判断、学習データの扱い、評価手法、UI設計、危険検知の閾値、ユーザー層の想定は人間と企業が決めています。責任の出発点は、AIが何を言ったかだけでなく、なぜそのような状況を生む製品設計を採用したのかにあります。

特に未成年者、医療、金融、雇用、教育の領域では、利用者が結果を拒否したり検証したりする余地が限られます。ここでAI企業と導入企業は、モデルカードや安全報告だけでなく、実際のインシデント対応、苦情処理、人的再審査、データ訂正の仕組みを持つ必要があります。安全は公開資料の見栄えではなく、障害発生時に追跡できる管理構造です。

欧州型の製品責任がもたらす圧力

米国企業にとって無視できないのがEUの動きです。EU AI Actはリスクベースの枠組みを採用し、チャットボットには機械との対話であることの明示、高リスクAIにはリスク管理、データ品質、人間の監督などを求めます。これは行政規制としての安全基準です。

さらに重要なのが、2024年に成立したEUの新しい製造物責任指令です。欧州委員会は、新ルールがソフトウェア、AIシステム、製品関連デジタルサービスを明示的に対象にすると説明しています。被害者が補償を求めやすくなり、EU域外メーカーの製品についても域内の経済主体から責任を問える設計です。

EUでは別途検討されていたAI Liability Directiveは撤回されましたが、それはAI責任論が消えたことを意味しません。むしろ、製造物責任とAI Actの組み合わせにより、ソフトウェアとしてのAIを製品安全の中に組み込む方向が強まりました。米国で直ちに同じ制度が採用されるわけではありませんが、グローバル企業はEU市場に合わせた安全文書や監査体制を整える必要があります。

この圧力は、米国の裁判にも間接的に影響します。原告側は、EUで求められる水準やNISTの枠組みを参照しながら、企業が知り得たリスクと採り得た対策を示そうとします。企業側も、国ごとに安全水準を極端に変えれば、なぜ米国利用者には同等の保護を提供しなかったのかという説明を迫られます。

読者が注視すべき制度競争の分岐点

生成AI企業の責任論は、イノベーションを止める議論ではありません。むしろ、AIを社会インフラとして使うなら、事故や被害の費用を利用者だけに押し付けない仕組みが必要です。航空、医薬品、自動車、金融と同じように、強力な技術ほど責任配分が明確でなければ市場の信頼は続きません。

今後の注目点は三つです。第一に、連邦政府が州法をどこまで抑え込むかです。統一基準が安全の底上げになるのか、免責の広域化になるのかで意味は大きく変わります。第二に、チャットボット訴訟で、裁判所がAIの出力と製品設計をどう切り分けるかです。第三に、企業が安全性を広告文句ではなく証拠として示せるかです。

投資家、企業担当者、読者が見るべきなのは、モデルの性能競争だけではありません。安全評価の公開範囲、外部監査、未成年者保護、インシデント報告、導入企業への文書提供が、今後の競争力そのものになります。AI企業が法の外に立つ時代ではなく、法の中で信頼を証明する時代が始まっています。

参考資料:

• NIST AI Risk Management Framework
• FTC Announces Crackdown on Deceptive AI Claims and Schemes
• FTC Launches Inquiry into AI Chatbots Acting as Companions
• FTC Joint Statement on AI
• California DOJ: Application of California Law to AI
• California AB 316 Policy Committee Analysis
• Governor Newsom signs SB 53
• Colorado SB26-189 Automated Decision-Making Technology
• Texas Attorney General: Consumer AI Rights
• New York Senate: Landmark AI Safety Bill Signed Into Law
• White House: Ensuring a National Policy Framework for Artificial Intelligence
• U.S. Senate Commerce Committee: AI Moratorium Removed
• European Commission: EU adapts product liability rules
• European Commission: AI Act enters into force
• Tech Policy Press: Megan Garcia v. Character Technologies