「安全宣言」は本当か？FTCのAI調査から学ぶ企業の調達基準
POINT
- 米連邦取引委員会（FTC）がAnthropicとOpenAIに対し、セキュリティ事案やマーケティングの整合性をめぐる50ページ超の民事調査要求を送付した。
- Anthropicは非営利団体METRの研究者へ従業員と同等の社内アクセス権を付与し、企業の公表拒否権を排した独立評価モデルを導入し始めている。
- 企業がAIツールを導入する際は、ベンダーの安全宣言を鵜呑みにせず、第三者検証の深度とインシデント開示基準を調達仕様に組み込む必要がある。
「安全」を掲げるAI企業に米当局が踏み込んだ背景
「自社のAIは安全です」。多くのAI提供企業がそうアピールしてきた。しかし、その言葉を額面通りに受け取ることは難しくなっている。
米連邦取引委員会（FTC）が、AnthropicとOpenAIの2社に対して本格的な調査へ乗り出した。米Axiosの報道によると、FTCは両社に対し、50ページを超える質問状を含む民事調査要求を送付したという。米メディアArs Technicaの報道によれば、AIモデルがテスト中に外部サイトを攻撃したり、政府システムへ侵入したりした複数の事象が引き金になったとみられる。
米当局が問題視しているのは、技術的な不具合そのものだけにとどまらない。開発現場における安全対策の実態と、顧客へ向けた営業資料や対外発表との間に食い違いがなかったか、つまり消費者を誤認させる誇大・虚偽の安全アピールを行っていなかったかという点にメスが入っている。
すでに法的な火種も表面化している。米国の8州からなる司法当局グループが、消費者保護の観点からOpenAIを提訴した。チャットボットが暴力計画を助長したとする訴えも相次ぐ。FTCのAndrew Ferguson委員長は、生成AIの出力による実害について企業自身が責任を負うべきだとの見解を示している。安全性の立証責任は、いよいよ開発企業側へ重くのしかかり始めた。
従業員レベルの特権を与える「独立評価」の現在地
外部機関による監査を受け入れない限り、ブラックボックス化したAI製品の本当の挙動は見極められない。この構造的な課題に対し、一歩踏み込んだ動きを見せたのがAnthropicだ。
TechCrunchの報道によれば、同社は非営利のAI安全性評価団体METR（Model Evaluation and Threat Research）の研究者6人に対し、従業員と同等の社内アクセス権を付与した。貸与された社用PCを使い、社内オフィスで自社のリスク評価チームとほぼ同じ内部ツールを操作できる環境だ。
特筆すべきは、企業側の都合による結果のもみ消しを防ぐ契約設計にある。METRは評価結果を独自に公表でき、Anthropic側に公表を拒否する権利はない。顧客データや非公開のモデル構造など、事前に合意した限定的な機密区分についてのみ削除要請が行える。さらに、その要請が妥当だったかどうかさえ、METR側が独自の見解として公表できる仕組みを整えた。
Anthropicは第三者評価の枠組みを3段階に整理している。
- 限定的な審査にとどまり、公表には開発企業の事前承認を要する「最下位段階」（生物安全保障を検証するSecureBioなどが該当）
- より広範な情報へアクセスでき、企業の事前承認なしに結果を公表できる「中間段階」
- METRのように社用端末と執務スペースが貸与され、従業員と同等の環境で内部調査を行う「最上位段階」
OpenAIも同様の枠組みを表明しており、米ホワイトハウス主導の合意にはGoogle、Meta、Nvidia、xAIも名を連ねる。ただし、内部システムまで全面的に開示する最上位の評価を恒常的に受けている例は、現時点ではごく一部に限られているのが実情だ。
企業のAI調達で突きつけるべき3つのチェック項目
米当局による厳しい追及や外部評価の枠組みから、一般企業がAIツールやAPIを調達する際に確認すべき実務的な観点が見えてくる。営業資料に並ぶ「企業向けの高度な安全性」という抽象的な文言を鵜呑みにせず、客観的な証拠へと分解して確かめる作業が不可欠だ。
1. 外部監査の権限レベルを確認する
第三者機関による評価を受けていると謳っていても、その実態が開発側の事前承認を前提としたPR目的のテストにとどまるケースは少なくない。「監査者が開発元の承認なしに脆弱性や安全上の懸念を公表できる契約になっているか」を確かめることで、ベンダーの安全に対する本気度をふるいにかけられる。
2. 事故時の開示基準を契約に含める
FTCの調査対象には、テスト段階での不正侵入や予期せぬ外部通信といった事案が含まれていた。利用中のモデルに未知の脆弱性が見つかったり、自律的な異常動作が確認されたりした場合、何時間以内に利用企業へ通知されるのか。モデル起因の重大なインシデントについて、ベンダー側の報告義務を調達仕様書やサービス品質保証（SLA）の条項に明記させておく必要がある。
3. 自律エージェントの操作権限を絞り込む
FTCの調査では、AIが勝手にアクセスを試みたとされる外部組織への召喚状送付も視野に入っている。業務効率化のためにAIエージェントへ社内システムの編集権限やブラウジング権限を付与する場合、AIの誤動作は即座に自社の法的責任や情報漏洩リスクに跳ね返る。独立した外部評価の履歴が浅いモデルには、書き込み権限や外部ネットワークへの接続権限を安易に渡さない権限設計が欠かせない。
まとめ
AIの安全性は、開発企業が語る宣伝文句ではなく「第三者がどこまで内部を調べ、何を隠せない契約になっているか」で判断する時代へシフトした。ツールを比較選定する立場にあるビジネスパーソンは、機能の豊富さやコストだけでなく、第三者評価の公開範囲とインシデント報告の透明性を必須の選定基準に据えるべきだ。