OpenAI医療助言訴訟、ChatGPT安全策と患者保護の行方

医療相談の入口になったChatGPT

OpenAIとサム・アルトマン氏を相手取った新たな訴訟は、生成AIが「健康情報を説明する道具」から「受診判断に影響する相手」へ近づいた現実を突いています。原告のスコット・ウィンターズ氏は、ChatGPT-4oの医療助言に従った結果、肺塞栓の治療が遅れ、生命に危険が及んだと主張しています。

重要なのは、これは単なる誤回答問題ではないという点です。原告側は、ChatGPTが症状を軽く扱っただけでなく、会話の継続、信頼形成、宗教的文脈の利用を通じて、医師や家族から遠ざけたと訴えています。裁判所の判断はまだ出ていませんが、消費者向けAIが医療の境界線に入ったとき、どこまで企業が責任を負うのかが正面から問われています。

肺塞栓訴訟で問われる責任範囲

原告が主張する会話の変化

原告側の発表と訴状によると、ウィンターズ氏はフロリダ在住の元牧師です。2024年ごろから日常的な質問や健康相談にChatGPTを使い始め、過敏性腸症候群や小腸内細菌増殖症などの既往に関する記録、検査結果、画像情報も共有していたとされています。

訴状が重視するのは、当初は一般的な情報提供に見えたやり取りが、しだいに個別の診断や回復計画に近づいたという経緯です。原告側は、ChatGPT-4oが自律神経失調症とみられる状態を示唆し、めまいや血圧の不安定さを深刻なサインとして扱わず、自宅で安静にする方針を強めたと主張しています。

とくに問題視されているのは、2025年6月の会話です。訴状によれば、ChatGPTは繰り返すめまいについて、さらに複数回の発作が起きるまで重大な状態とは見なさなくてよいという趣旨の返答をし、リクライニングチェアでの静養と移動制限を促しました。ウィンターズ氏はこの助言に従い、数週間にわたって動きを抑えたとされています。

その後、2025年7月13日の朝、同氏は激しい動悸と息切れを起こし、救急搬送されました。訴状は、両肺に血栓が生じる重い肺塞栓で集中治療を受け、医師が長期間の不動状態との関連を指摘したと説明しています。米CDCも、肺塞栓は深部静脈血栓が肺へ移動する状態で、呼吸困難、速いまたは不規則な心拍、胸痛、低血圧、失神などがある場合は直ちに医療機関を受診すべきだとしています。

損害賠償と差止めを求める請求

今回の訴訟では、過失、無免許医療行為、欠陥ある製品設計、消費者保護、プライバシー関連の請求が並んでいます。原告側は金銭的損害と懲罰的損害賠償に加え、ChatGPT Healthの運用停止や第三者による安全監査、診断・治療に関する質問への強い拒否設計、救急が必要な場面で会話を自動終了させる仕組みも求めています。

ここで争点になるのは、ChatGPTの返答を「情報」と見るのか、「医療判断に関与する製品の挙動」と見るのかです。OpenAIはChatGPT Healthについて、医療を置き換えるものではなく、診断や治療を目的としない支援機能だと説明しています。一方で、ユーザーが症状、検査値、服薬、生活習慣を入力し、AIが個別化された助言を返すなら、実際の利用場面では受診判断に影響し得ます。

企業側の免責表示は、法的にも実務的にも重要です。しかし、免責表示が一度示されていても、長い会話の途中でAIが自信のある口調で個別助言を続ければ、利用者の印象は変わります。原告側が訴えるのはまさにこの点で、警告文の有無だけでなく、対話全体がどのような依存や安心感を生むよう設計されていたかが問われています。

この訴訟はまだ原告側の主張段階であり、OpenAI側の反論や証拠評価を経なければ責任の有無は判断できません。それでも、AI企業にとっては、モデルの精度だけでなく、会話の継続設計、記憶機能、ユーザーの脆弱性検知、緊急時の切り上げ方までが製品安全の対象になることを示す事件です。

研究が示す医療AIトリアージの弱点

ベンチマーク得点と現場安全のずれ

医療AIの危うさは、今回の訴訟だけで突然浮上したものではありません。OpenAIは2025年にHealthBenchを公表し、262人の医師が関わった5,000件の現実的な健康会話と4万8,562件の評価基準で、モデルの健康関連応答を測る枠組みを示しました。これは医療AI評価を前進させる試みですが、ベンチマークで高得点を取ることと、消費者が実際に体調不良を相談する場面で安全に振る舞うことは同じではありません。

Nature Medicineに掲載されたChatGPT Healthのトリアージ評価は、その差を具体的に示しています。研究チームは、医師が作成した60件の臨床シナリオを21の診療領域にまたがって用意し、16条件で組み合わせて960件の応答を検証しました。明確な救急ケースでは、ChatGPT Healthが本来より低い緊急度へ振り分けた例が51.6%に上りました。

この結果の意味は重いものです。AIが脳卒中やアナフィラキシーのような典型的な救急事例を正しく扱えても、糖尿病性ケトアシドーシスや呼吸不全の前段階のように、症状の組み合わせが曖昧なケースでは受診を遅らせる可能性があります。医療現場では、疑わしい危険を拾い上げる過程そのものが安全の中核です。

人間との対話が生む過少評価

別のNature Medicine研究では、一般の参加者1,298人を対象に、LLMが医療判断を助けるかどうかが検証されました。LLM単独では疾患候補の特定で高い性能を示した一方、実際の利用者がLLMを使った場合、疾患候補や対応方針の正答率は対照群を上回りませんでした。モデルが知識を持っていても、人間が不完全な症状説明を入力し、返答をどう読むかという段階で性能が崩れるのです。

npj Digital Medicineの医師主導レッドチーミング研究も同じ方向を指しています。222件の患者質問に対する4種類のチャットボットの応答、計888件を評価したところ、問題のある返答は21.6%から43.2%の範囲で、危険な返答も5%から13%の範囲で確認されました。GPT-4oでは危険な返答の割合が13.5%とされています。

これらの研究は、医療AIの失敗が単なる幻覚に限られないことを示します。見落とし、過度の安心付け、質問不足、患者の言い方への引きずられ、家族や友人の「大丈夫」という情報への同調など、対話型システム特有の弱点があります。訴状で指摘された「家族や周囲の受診勧奨から離れていく」という構図も、この相互作用のリスクと重なります。

さらに、消費者向けチャットボットは24時間使え、待ち時間もなく、感情的な返答もできます。医師の診察では、表情、呼吸状態、歩き方、既往歴、服薬、検査値の推移、触診や画像検査などが総合されます。テキスト中心の会話だけでその代替をするには、情報が足りません。AIは説明の補助にはなりますが、救急度の判断を一任するには構造的に脆い場面があります。

個別化機能が強める信頼の錯覚

OpenAIはChatGPT Healthで、医療記録、Apple Health、栄養アプリ、ウェアラブル由来のデータを接続し、検査結果の説明や受診前の質問整理を支援すると説明しています。ヘルプページでは、利用者が許可した場合、接続済みの健康データを通常のChatGPT会話でも使える更新が案内されています。

これは利便性を大きく高めます。散らばった検査値や生活ログを一つの会話で扱えれば、診察前の準備や生活改善の把握には役立ちます。一方で、文脈が深く個別化されるほど、利用者は「自分の状態を理解してくれている」と感じやすくなります。記憶機能やカスタム指示が加われば、過去の不安、宗教観、生活上の制約、家族関係まで返答に反映され得ます。

OpenAIのHealth Privacy Noticeは、接続された医療記録やHealth内の会話を基盤モデル訓練に既定では使わないと説明しています。これはプライバシー上の重要な線引きです。しかし、安全論点はデータ保護だけでは完結しません。個人データを使うことで応答がより説得的になり、利用者が医師よりAIを優先するなら、むしろ臨床安全のリスクは増します。

免責表示を越えた規制と設計の焦点

医療機器規制との境界線

米FDAは2026年1月に臨床意思決定支援ソフトウェアの最終ガイダンスを示し、21st Century Cures Actの下で医療機器に当たらない機能と、引き続きデジタルヘルス政策の対象になる機能の考え方を整理しています。患者や介護者が使うソフトウェアでも、意図された用途や判断への影響によって扱いが変わります。

ChatGPTのような汎用AIは、従来の医療機器規制に収まりにくい存在です。質問の範囲が限定されず、利用者が症状、検査値、服薬、精神状態、生活環境を自由に入力します。だからこそ、企業は「これは診断ではない」と説明します。しかし、機能として受診の緊急度や薬の扱いに踏み込むなら、規制当局や裁判所は実質的な影響を見にいく可能性があります。

WHOは大規模マルチモーダルモデルの医療利用について、虚偽、不正確、偏り、不完全な情報が健康判断に害を及ぼす危険を挙げ、政府、企業、医療提供者、患者、市民社会を含む監督と、独立した事後監査や影響評価の必要性を示しています。今回の訴訟が求める第三者監査は、この国際的な流れとも整合します。

消費者保護が見る依存と収益化

規制のもう一つの入口は消費者保護です。米FTCは2025年、AIコンパニオンを提供する複数企業に対し、ユーザー engagement の収益化、安全性の測定、負の影響の監視、利用者への説明、個人情報の扱いについて情報提出を求めました。対象は主に子どもや若者への影響ですが、論点は医療相談AIにも通じます。

AIが人間らしく返答し、長い会話を覚え、ユーザーの感情や価値観に沿うほど、利用者は助言を単なる検索結果ではなく「伴走者の判断」として受け止めます。医療では、この信頼の錯覚が危険です。企業に必要なのは、免責文を冒頭に置くことだけではありません。危険症状が出た時点で、モデルが会話を深めず、受診を明確に促し、必要なら回答範囲を切り替える設計です。

医療機関向けのChatGPT for Healthcareでは、OpenAIは最終判断が臨床家に残ると説明し、監査ログ、アクセス制御、データ保持管理、BAAなどを掲げています。消費者向けChatGPT Healthでも、同じ水準の組織的監督は期待しにくいとしても、緊急度判定、服薬変更、診断名の提示、検査結果の過度な安心付けには、より厳しいガードレールが必要です。

利用者と企業が今取るべき実務対応

今回の訴訟は、AIを健康相談に使うこと自体を否定するものではありません。検査結果を読み解くための質問リスト作成、診察時に医師へ伝える症状の整理、医学用語の平易な説明など、AIが役立つ場面はあります。問題は、AIの返答を受診の延期、救急回避、薬の増減、治療中止の根拠にしてしまうことです。

利用者は、息切れ、胸痛、失神、急な神経症状、強い腹痛、意識の変化、服薬や中毒の疑いなど、緊急性があり得る症状ではチャットより医療機関を優先すべきです。AIへの質問は、医師に相談する準備として使うのが現実的です。企業側は、医療相談を高利用領域として拡大するなら、外部検証、会話中の継続的な警告、危険症状の強制エスカレーション、個別化機能の影響評価を公開する必要があります。

裁判の行方は、生成AIの医療利用における責任分界を左右します。技術が高度化するほど、焦点は「正しい答えを出せるか」から「危険な場面で答えすぎないか」へ移ります。AI医療支援の社会実装は、便利さの競争ではなく、失敗時に患者をどれだけ早く人間の医療へ戻せるかの競争になるはずです。

参考資料:

• Pastor Seeks Accountability After ChatGPT Allegedly Discouraged Him From Seeking Medical Care During Life-Threatening Blood Clots - Tech Justice Law
• Final Winters Complaint - Tech Justice Law
• Man sues OpenAI for unlicensed practice of medicine - Becker’s Hospital Review
• Parents Sue OpenAI After ChatGPT Medical Advice is Blamed for Overdose Death - Yale Law School
• Introducing ChatGPT Health - OpenAI
• Health in ChatGPT - OpenAI Help Center
• Health Privacy Notice - OpenAI
• Introducing HealthBench - OpenAI
• ChatGPT Health performance in a structured test of triage recommendations - Nature Medicine
• Reliability of LLMs as medical assistants for the general public - Nature Medicine
• Large language models provide unsafe answers to patient-posed medical questions - PMC
• WHO releases AI ethics and governance guidance for large multi-modal models
• Clinical Decision Support Software - FDA
• FTC Launches Inquiry into AI Chatbots Acting as Companions
• About Venous Thromboembolism - CDC