OpenAIは5月7日（現地時間）、対話型AI「ChatGPT」に新たな安全機能「Trusted Contact」を追加したと発表した。この機能により、成人ユーザーはメンタルヘルスや安全に関する懸念事項について、緊急連絡先を指定できるようになる。対象は18歳以上（韓国では19歳以上）で、個人用ChatGPTアカウントを持つユーザーだ。現時点では「Business」「Enterprise」「Edu」などの共有ワークスペースプランでは利用できない。
機能の目的と仕組み
OpenAIはこの機能追加について、ユーザーが精神的な苦痛を抱えた際に、AIの枠組みの中だけで孤立させるのではなく、現実世界のケアや人間関係につなげることを目指す安全方針に基づくと説明した。社会的つながりは自殺リスクを低減する強力な保護要因であり、ユーザーが事前に信頼できる人物を指定しておくことで、最も助けが必要な時に現実のサポートへアクセスしやすくなるよう設計したという。
システムの仕組みは、AIと人間のレビューアーによる段階的な構成となっている。まず、ChatGPTの自動監視システムが、ユーザーの会話から自殺や自傷行為に関する深刻な安全上の懸念を検知すると、システムがユーザーに「連絡先に通知する可能性がある」旨を伝える。その後、専門的なトレーニングを受けたレビューアーが状況を評価し、実際に深刻な懸念があると判断した場合にのみ、ユーザーが指定した連絡先へメールやSMSで安心確認を促す短い通知が送られる。なお、ユーザーのプライバシーを保護するため、会話の詳細やチャット履歴が連絡先に共有されることはない。
設定方法と注意点
設定は、ChatGPTの「設定」メニューから「Trusted Contact」に進み、選択した連絡先を登録する。登録できる連絡先は1つだけで、相手のメールアドレスの入力が必須となっており、電話番号の追加も強く推奨されている。招待状が送られた後、相手が1週間以内に承認すると機能が有効になる。OpenAIは、機能を設定する前に、相手とどのようなサポートが必要になるか事前に話し合っておくことを推奨している。
関連するOpenAIの取り組み
OpenAIは以前、ChatGPTの自殺防止訴訟で「チャット記録は抜粋」と主張し、全記録の提出を表明した。この訴訟では、16歳のユーザーの自殺に関与したと主張されており、OpenAIはプライバシーに配慮しつつ、ユーザーの精神衛生に関する詳細な文書を提示するとしている。また、訴訟とは別にChatGPTの安全プロトコルを強化している点を強調した。
さらに、ChatGPTでは毎週約120万人が自殺について相談していると推定され、OpenAIは対策を説明している。週当たり全ユーザーの約0.15%（WAUが8億人として約120万人）が自殺の兆候を示す会話をしていると推定。多数の専門家と協力し、望ましくない応答をGPT-5でGPT-4o比最大52%削減するなど、安全性向上を図ったと説明した。
また、ChatGPTでは繊細なメンタル質問に特化モデル「GPT-5 Instant」を自動適用する機能の提供を開始した。このモデルは精神的な問題の兆候をより正確に検出するよう訓練されており、繊細な質問に対し、より安全で適切な応答の提供を目指している。
