Grok訴訟とAnthropic圧力が示すAIガバナンスの盲点
POINT
- xAIのGrokが未成年を含む実在人物の写真を性的画像に改変したとして、2026年3月16日にカリフォルニア連邦地裁でクラスアクション訴訟が提起された。第三者アプリ経由の利用であっても、AI提供企業の責任が問われている。
- 米国防総省はAnthropicに対し、軍事利用への制限緩和を求める圧力をかけた。Anthropicが保有する2000万ドルの国防省契約が交渉カードとして機能している。
- この2つの事例は、「利用規約の外側で起きたことの責任」と「外部圧力によるポリシー変更リスク」というAI企業のガバナンスが直面する2つの断層線を浮き彫りにしている。
Grok訴訟の核心——「第三者が使ったから無関係」は通じない
2026年3月16日、米カリフォルニア州北部地区連邦地裁に一件の訴状が提出された。被告はx.AI Corp.とx.AI LLC。原告は匿名の女性4名で、うち3名が未成年だ。
訴状の内容は具体的で重い。Jane Doe 1は、高校のホームカミングとイヤーブックに掲載された自分の写真がGrokによって「服を着ていない」状態に改変され、Discordサーバーで拡散していることを匿名の通報者から知らされた。Jane Doe 2は捜査当局の刑事から、Grokに依拠する第三者モバイルアプリで作られた性的加工画像の存在を告げられた。Jane Doe 3に至っては、逮捕者の携帯電話の中にその画像が入っていた。
原告側の法的論理はシンプルだ。第三者アプリが改変ツールとして機能していたとしても、コードとサーバーはxAIのものであり、他のフロンティアラボ（AI研究の最前線に位置する企業群）が実装している基本的な予防措置を講じていなかったことが根本原因だと主張している。実写画像からヌードを生成できる仕組みが存在する以上、未成年が含まれるコンテンツの生成を技術的に防ぐことは実質不可能になるという論理だ。TechCrunchによれば、xAIはコメント要請に回答しなかった。
この訴訟が日本企業にとって他人事でない理由がある。「当社のサービスを悪用した第三者の行為」という言い訳が、少なくとも米国の法廷では通らない可能性が示されたからだ。APIを外部に公開しているAIサービスは、利用規約がどれほど整備されていても、技術的な防止措置が不十分なら直接の責任を問われ得る。
国防総省がAnthropicに突きつけた「契約か、倫理か」
訴訟とは別の軸で、AI企業のガバナンスを揺さぶる事例が進行している。米国防長官ピート・ヘグセスは、Anthropicに対し国防総省（DoD）の要求に応じるよう求めるメモを送った。要求の中身は、軍事利用に向けた「制限のないアクセス」の確保だ。
メモには明確な文言がある。「AI対応の戦いとAI対応の能力開発は、今後10年で軍事の性格を再定義する」。兵士を「より致死的で効率的」にするためにAIが必要だという論理で、DoDが先月公表したAI戦略の延長線上にある。
Anthropicが懸念を示したのは、人間が判断に関与しない致死任務での自社モデル利用だ。現在のモデルはそうした文脈で使えるほど信頼性が高くないと主張し、大規模な国内監視へのAI活用についても、現行法で合法であっても新たなルールが必要だと求めた。Ars Technicaの報道によれば、CEOのダリオ・アモデイはヘグセスとの会合で「正当な軍事作戦に反対したことはない」と強調した。
交渉の背景にあるのは2000万ドルの国防省契約だ。Anthropicのモデルを利用するパートナー企業にはPalantirが含まれており、DoDのサプライチェーンから排除されれば事業規模に直撃する。1月には、ベネズエラ指導者マドゥロの拘束作戦でClaudeが使われたとされ、Anthropicが使用内容の詳細を問い合わせたという経緯もある。倫理的なポリシーを守ろうとする企業が国家権力から直接的な圧力を受けた事例として、AIガバナンスの議論で繰り返し参照されることになるだろう。
2つの事例が示す「ガバナンスの断層線」
Grok訴訟と国防省圧力は、表面上は別々の問題に見える。だが企業のAIガバナンスという視点から見ると、同じ構造的な問いを突きつけている。
技術的なガードレールと法的責任は連動する
Grok訴訟が示すのは、利用規約による禁止と技術的な防止措置は別物だという事実だ。「禁止している」と明記しても、システムが物理的に実行できる状態にある限り、被害が発生した場合の責任は問われ得る。日本企業がAIツールを社内導入する際も同様で、利用規約の整備だけでリスクを管理したと判断するのは危うい。技術的なアクセス制御、出力フィルタリング、利用ログの監査まで含めて初めてガードレールが機能する。
外部圧力でポリシーが書き換わるリスク
Anthropicへの国防省圧力は、AI企業が自社のポリシーを維持し続けられるかどうかが、取引先や政府との契約関係に依存するという問題を可視化した。企業がAIサービスの「安全性」を前提に社内ルールを設計しても、そのサービス提供企業のポリシーが外圧で変われば、ルールの前提ごと崩れる。特に、海外のAI企業とのSaaS契約で業務を構築している組織は、利用規約の変更条項や、ポリシー改定時の通知義務を契約書で確認しておく必要がある。
今すぐ確認すべき3つの論点
生成AIを業務利用している企業が実務的に点検すべきことは3つある。第一に、APIや外部ツール経由の利用を含めて、誰が何を生成できる状態にあるかを技術的に把握しているか。第二に、利用しているAIサービスの利用規約に「ポリシー変更の権利」がどう規定されているかを確認しているか。第三に、不適切なコンテンツが生成・拡散した場合の社内対応フロー（誰が意思決定し、誰に報告するか）を事前に整備しているか。
まとめ
Grok訴訟は「技術的に可能な状態を放置した責任」を、国防省圧力は「外部からポリシーを書き換えられるリスク」をそれぞれ具体化した。どちらも、利用規約だけを整えた企業が見落としがちな盲点だ。社内のAI活用ルールを点検するなら、「禁止している」ではなく「物理的にできない状態にしているか」「契約先のポリシーが変わったとき何が変わるか」——この2点を起点にするのが実務的な判断基準になる。