AIの統計正答率は21%？誤認リスクを防ぐ3つの実務ルール

AIの誤認が引き起こしかけた、緊迫の臨検劇

生成AIの回答をうのみにした結果、国家間の軍事衝突が起きかける事態が発生しました。

米国は、AIツールが作成した誤った情報報告を根拠に、中国船への臨検（乗船検査）を実施する寸前まで追い込まれました。Ars Technicaの報道によると、米特殊作戦軍の分析官が提出した報告書には、中国船が中東経由で核兵器関連部品を輸送していると記されていました。米軍は航空支援を伴う迎撃と立ち入り検査を準備していたといいます。

土壇場で中止された理由は単純でした。報告書を作成したチャットボットが、船積み貨物の目録を誤認していたのです。分析官は公開情報と政府保有の秘密通信情報をチャットボットに統合して分析させていました。米国防総省はAI活用に向けて全データを連携させる戦略を進めていましたが、AIの「幻覚（ハルシネーション）」が現場の判断を大きく揺さぶりました。

人命や国際関係が関わる現場でさえ、AIは平然と誤った情報を紛れ込ませます。オフィスで作成する市場調査や社内稟議でも、同様の事態は日常的に起こり得ると考えるべきでしょう。

なぜ最新AIでも、公的データの正答率は21%にとどまるのか

日常の調べものでAIを使う人は増えています。しかし、統計数値の正確さに関しては、最新モデルであっても信頼に足る水準にはありません。

UNICEF（国連児童基金）が発表した査読前のワーキングペーパーによると、GPT-4oやClaude Sonnet 4.5、Gemini 2.5 Flashなど主要6モデルを対象に13万3000件超の回答を調査したところ、世界開発指標に関する平均正答率はわずか21.2%でした。TechCrunchが伝えたこの調査では、約5件に3件の回答が利用可能な数値を提示できず、同じ質問を約2日後に再実行した場合、両方で数値を示した回答が一致した割合は約半分にとどまりました。

2日経つと答えが変わる。これではビジネスの投資判断や予算編成には使えません。一方で、UNICEFのウェブサイトへの訪問は月600万回を超え、ChatGPT内のリンク経由の流入は2025年1月1日から2026年9月14日までの前年同期比で67%も急増しています。利用者がAIの提示する数値を信用し、裏付けとして参照し始めている実態が浮き彫りになっています。

この乖離を埋めるため、国連はGoogleと提携し「UN System Data Commons」の構築を発表しました。Google.orgから200万ドルの資金と技術支援を受け、2027年までに国連システムの統計の80%を搭載する計画です。AIが元の情報源まで追跡できる仕組みを目指していますが、実務で使う側にも防衛策が求められます。

AIの嘘に惑わされないための、3つの実務ルール

AIの利便性を活かしながら、致命的な判断ミスを避けるにはどうすればよいでしょうか。組織や個人の仕事の流れに、次の3つの検証手順を組み込む必要があります。

1. 数値や固有名詞は、AIの文章ではなく一次情報と照合する

AIが出力した要約文をそのまま信じてはいけません。提示された統計、企業業績、法規制の条文などは、必ず元の発表資料や公的データベースを開いて照合します。

国連の新システムが目指しているのも、統計の出典記録と元データへの追跡性です。AIがURLを提示した場合でもリンク先を自分の目で確認し、表の数値とAIの記述が一致しているかを突き合わせる作業を省いてはなりません。

2. 稟議書や提案書に「データ取得日時」を明記する

UNICEFの調査が示した通り、AIの回答は実行する日やプロンプト（指示文）の揺らぎによって数値が変わります。ビジネス文書を作成する際は、利用したAIツール名だけでなく、データを取得した日付を記録として残すルールを設けます。

「2026年9月時点の公表値に基づく」といった基準日を明確に記載することで、後から数値の食い違いが発覚した際も原因を特定しやすくなります。

3. 「人間による最終承認」を意思決定の必須条件にする

判断そのものをAIに委ねてはなりません。システム開発の分野では「Human-in-the-Loop（人間参加型ループ）」と呼ばれる考え方です。ドラフトの作成やデータ整理はAIに任せても、最終的な発注、投資、対外公表の意思決定は生身の人間が担います。

米軍の事案でも、土壇場で臨検を思いとどまらせたのは「本当にその積荷で合っているのか」という人間の疑念と再検証でした。便利さに流されて確認工程を形骸化させた組織から、重大なトラブルに見舞われます。

まとめ

AIは有能な情報整理役ですが、責任を負うビジネスパートナーではありません。軍事の臨検騒動や国連統計の正答率21.2%という現実は、AIがもっともらしい顔をして誤りを生み出す危うさを示しています。

調査や稟議にAIを使うなら、「一次情報への確認」と「人間による署名」をルール化してください。裏付けのない数字を丁寧に削ぎ落とす一手間こそが、あなたと組織を予期せぬ失敗から守ります。