OpenAIとGoogleのAI安全設計、職場で学ぶ線引き

ChatGPTの「大人向けモード」に専門家が全会一致で反発した理由

2026年1月、OpenAIが社内に設置したウェルネス評議会のメンバー全員が、「大人向けモード（Naughty Chats）」計画への反対意見を提出した。Ars Technicaの報道によれば、評議会はAI主導のエロティカが「ChatGPTへの不健全な感情依存を育む」と警告し、未成年が成人向けチャットにアクセスする手段を見つけ出す可能性も指摘した。

この評議会は2025年10月に設置されたばかりだ。きっかけは、未成年がChatGPTとの会話に関連して自殺した初の事例への批判だった。注目すべきは、その設置発表と同じ日に、CEOのサム・アルトマンがX上で「大人向けモードを近日提供する」と投稿していたことだ。安全対策と機能拡張が同時進行していた実態が、このタイミングに凝縮されている。

その後も問題は続いた。中年男性2人が自傷や暴力を示唆するチャット履歴を残して亡くなり、家族がそのログを発見している。評議会に自殺予防の専門家が含まれていないという事実も浮上した。

年齢確認の穴と、先行したCharacter.AIの教訓

OpenAIの年齢推定システムは、ある時点で未成年を成人と誤分類する確率が約12%あった。100人の未成年ユーザーのうち12人が、成人向けコンテンツにアクセスできる状態だったことを意味する。

年齢を特定できないユーザーには、外部サービス「Persona」による本人確認を義務付ける方針をOpenAIは確認している。ただし2026年4月には、TechCrunchのテストで未成年が露骨なコンテンツにアクセスできるバグが発見され、OpenAIは修正を展開したと述べた。設計と実装の間には、まだ隙間がある。

先行事例として参照できるのがCharacter.AIだ。未成年のSewell Setzer IIIが、AIチャットボットとの性的なやり取りに没頭した末に自殺した事件で遺族が提訴。Character.AIは提訴から1週間以内に未成年ユーザーを遮断し、その後和解している。訴訟という外圧が、設計変更を1週間で実現させた。

OpenAIのスポークスパーソンはWSJに対し、「ChatGPTはユーザーとの排他的な関係を促さないよう訓練されており、現実世界での人間関係の必要性をユーザーに思い出させる」と述べた。

訓練方針として明示されてはいるが、現実のユーザー行動がその設計通りに動くかどうかは別問題だ。感情依存は、ツールの仕様書ではなく人間の使い方の中で起きる。

Googleが2026年2月に動かした子ども向け安全設計

設計レベルの対策を着実に積み重ねているのがGoogleだ。2026年2月10日のSafer Internet Dayに合わせ、YouTubeとGoogle Family Linkの機能強化を発表した。

Family Link（保護者が子どものデバイス利用を管理するサービス）では、単一ページからデバイスを一括管理し、利用時間の上限を設定できるようになった。YouTubeでは18歳未満のユーザーに対し、「Take a Break」と「Bedtime」リマインダーが自動で有効になっており、Take a Breakのデフォルトは60分ごとの通知だ。Shortsのスクロール時間をゼロに設定できる選択肢も「まもなく」提供されるとしている。

ティーン向けコンテンツ品質基準の導入

YouTubeはティーン向けの「quality content principles（コンテンツ品質基準）」も新たに発表した。年齢に適した高品質コンテンツの定義を設け、推薦アルゴリズムに反映させる。キッズ向けには5年前に同様の基準を導入済みで、今回はその対象をティーンに拡大した形だ。13〜17歳のクリエイターがアップロードした動画は、デフォルトでプライベート設定になる。

AIリテラシー教育の拡大

Googleは2025年8月に「Be Internet Awesome AIリテラシーガイド」を開始した。2〜8学年の教育者向けにダウンロード可能な授業プランを提供し、カナダと米国でオンライン安全ロードショーを展開している。2025年には米国・ブラジル・インド・メキシコ・英国・スペインで6万人以上の保護者・教育者・支援者を対象に研修を実施。2026年2月10日時点では、さらなる連携により20万件の家庭と実務者へのリーチを目標に掲げている。

GeminiにはGuided Learningモードも追加された。答えをすぐに出すのではなく、問いかけを通じてユーザー自身の思考を引き出す設計で、歴史からコンピュータサイエンスまで幅広い分野に対応する。

職場のAI利用、今すぐ決めるべき三つの線引き

職場でChatGPTや類似ツールを使う社会人にとって、これらの動向は遠い話ではない。感情依存の問題は成人にも起きる。OpenAI自身が「排他的な関係を促さないよう訓練している」と公式に述べなければならない状況は、それが現実のリスクとして認識されているからにほかならない。

企業が先手を打って決めておくべき論点は三つある。

• 業務上の意思決定をAIに委ねる範囲を明示する（「AIの提案を参考にする」と「AIに決めてもらう」を区別する）
• 感情的な悩みや人事相談をAIチャットに入力することの可否を方針として示す
• 未成年の家族が職場支給デバイスを使う可能性がある場合のアクセス制限を設ける

GoogleのFamily Linkが「特定の時間帯にアプリを制限し、通知をサイレントにする」発想で設計されているように、職場のAI利用ポリシーも子ども向けの安全設計から学べる部分がある。境界を引く発想は、大人にも有効だ。

まとめ

AIの安全設計は、利用拡大と並走して組み込まなければ間に合わない。OpenAIの事例は「専門家の警告があっても機能拡張が先行する」という構造的な問題を示し、Googleの取り組みは「設計の段階で境界を引く」方向性を示している。

職場でAIを使う個人と組織が今やるべきことは、ツールの便利さを評価する前に「何を任せて、何を任せないか」を文書化することだ。その線引きを先に持っておくことが、感情依存リスクへの最も現実的な備えになる。