arXivの投稿禁止に学ぶ、AI利用ルールの責任設計

arXivのルール変更で何が変わったのか

2026年5月、世界最大の科学論文プレプリントサーバーarXivが、AI利用に関する具体的な制裁を打ち出した。

ルールの核心はシンプルだ。論文内に「幻の引用（hallucinated references）」やAIへの指示文がそのまま残っているなど、著者がAI生成コンテンツを確認していない「反論の余地のない証拠」が見つかった場合、その著者は1年間の投稿禁止を受ける。以後の投稿には、査読付き学術誌への掲載が先に必要になる。

arXivコンピュータサイエンス部門議長のThomas Dietterichはこれを「one-strikeルール」と呼んだ。モデレーターが問題を検出し、セクションチェアが証拠を確認した上で罰則を下す。著者には不服申し立ての機会がある。

重要なのは、Dietterichが「LLMの使用を全面禁止するものではない」と明言した点だ。求めているのは、生成方法にかかわらず内容に対して著者が全面的に責任を負うことだけ。不適切な表現、剽窃、誤り、誤解を招く内容をそのまま貼り付けた場合でも、責任は著者にある。

背景には、捏造された引用が生物医学研究で増加している現実がある。大規模言語モデルが存在しない論文を「引用」として生成し、研究者がそれを確認せず投稿するケースが相次いでいる。

「禁止」より「責任の明確化」が機能する理由

arXivのアプローチが示すのは、ツールを禁じるより責任の帰属先を決めるほうが実効性は高い、という設計思想だ。

「AIを使ってはいけない」というルールは、検証がほぼ不可能だ。どこまでがAI由来で、どこからが人間の加工かを外から判断する手段はない。一方、「確認した証拠がない場合は罰則」という設計は、行動の結果——つまりアウトプットの質——を問う。

職場でも同じ構造が成り立つ。「ChatGPTで作った文書は提出禁止」というルールより、「AIが生成した内容を確認・承認した担当者が品質に責任を持つ」という基準のほうが実務に近い。前者は抜け穴だらけで、後者は既存の業務責任の延長線上にある。

「著者は、内容の生成方法に関わらず、内容に対して全面的な責任を負う」――Thomas Dietterich（arXivコンピュータサイエンス部門議長）

この一文の「著者」を「担当者」に、「内容」を「成果物」に置き換えると、そのまま職場の規範として機能する。AIを使ったかどうかは関係ない。確認したかどうかが問われる。

職場のAIルールで「線引き」すべき3つの軸

arXivの事例を踏まえると、企業がAI利用ルールを設計する際に問うべき問いが見えてくる。ツールの種類や利用頻度ではなく、以下の3軸で線引きするのが実用的だ。

確認義務の範囲

AIが生成した文章・数値・引用を、誰がどの段階で確認するか。arXivが問題にしたのは「確認しなかった」という行為そのものだ。社内文書なら担当者、顧客向け資料なら上長チェック、法的文書なら専門家確認——という段階を明示するだけで、多くのリスクは制御できる。

AIに入力するデータの扱い

入力する情報の種類によって、情報漏洩リスクは変わる。顧客の個人情報、未公開の財務データ、競合分析資料をクラウドサービスに入力するかどうかは、確認義務とは別に明確な基準が必要な領域だ。「何を入れてはいけないか」を列挙するより、「何を入れていいか」を限定するほうが管理しやすい。

アウトプットの用途

社内での叩き台として使うのか、対外的な資料として使うのかで、求められる確認水準は変わる。用途ごとに「そのままでは使えない」と明示するだけで、担当者の判断基準が生まれる。arXivが「査読済み学術誌への掲載」を再参入条件にしたのは、外部評価を品質の担保として位置づけているからだ。

禁止を積み重ねると何が起きるか

対照的な事例として、カリフォルニア州の製造規制が参考になる。同州では10年以上、新しい半導体製造工場が建設されていない。テスラが電池製造工場をカリフォルニアではなくネバダ州リノに建設したのも、カリフォルニアの許可環境が原因だったと指摘されている。

既存施設は「祖父条項」で稼働を続けられるが、新規参入は事実上不可能という構造だ。「禁止」を積み重ねた結果、既存プレイヤーだけが生き残り、新しい動きの余地が消えるパターンを示している。

AIルールも同じ罠に落ちやすい。禁止事項を増やすほど、ルールを知っている人間だけが抜け道を使い、知らない人間が萎縮する。「何をしてはいけないか」だけを積み上げたルールは、行動を止めるが判断力は育てない。

arXivが採った「使用禁止ではなく責任の明確化」という方向は、この失敗パターンを意識した設計に見える。ツールの使用を禁じるのではなく、使った結果に対して誰が答えるかを問う。萎縮を生まず、かつ品質を担保する。

まとめ

arXivの1年間投稿禁止ルールが示した原則は「AIを使うな」ではなく「確認しなかった者が責任を取る」だ。職場でAIルールを作る際も、まず「確認義務・入力データ・アウトプット用途」の3軸で線引きし、禁止の羅列ではなく責任の帰属を設計する。ルールが「誰が何に答えるか」を明示していれば、担当者は萎縮せずAIを使いこなせる。