OpenAI、ChatGPTにユーザーの安全を守る新機能を追加
- •OpenAIが緊急連絡先を登録できる「Trusted Contact」機能を導入した。
- •AIによる検知と専門チームの目視確認を経て、深刻な事態が懸念される場合のみ通知が行われる。
- •プライバシー保護のため、通知内容は安否確認の推奨に留め、チャット内容は共有されない。
AIが家庭教師やブレーンストーミングのパートナーとして日常生活に溶け込む中、開発企業が負う安全確保の責任はかつてないほど重くなっている。OpenAIはこうした背景を受け、ChatGPT内に「Trusted Contact」という機能を実装した。これは、深刻な自傷行為や危機的状況をAIが検知した際、あらかじめ登録された家族や支援者に通知を届けるデジタル上のセーフティネットである。
この機能の運用は非常に慎重だ。AIのアルゴリズムが過敏に反応したり文脈を誤読したりする可能性を考慮し、AIによる初期検知の後、訓練を受けた専門チームが目視で確認する工程を挟んでいる。この人間による判断を経て初めて通知が送信される仕組みであり、対応までの時間は通常1時間以内を目指している。
特筆すべきは、プライバシーへの深い配慮である。登録された連絡先には「相手を気にかけてほしい」という促しのみが送られ、具体的な対話ログは一切開示されない。危機に瀕したユーザーをサポートネットワークにつなぎつつ、チャットボットとの極めて個人的な対話を保護するという絶妙なバランスを実現している。
今回の取り組みは単発的な開発ではない。OpenAIはアメリカ心理学会やGlobal Physicians Networkといった専門機関と連携し、単なるコンテンツフィルタリングを超えた安全プロトコルを構築しようとしている。AIを実社会のリソースや人間同士のつながりへ橋渡しする媒介役と位置づける戦略だ。
ChatGPTを思考のパートナーとする学生やユーザーにとって、本アップデートはAIを個人的な空間で扱う際の細やかな配慮の重要性を教えてくれる。特に、意思決定の過程に人間を介在させる「ヒューマン・イン・ザ・ループ」という設計思想は、機微な情報を扱うAIにおいて今後標準的な要件となるだろう。