汎用AIが日常生活に深く浸透する中、静かな変化が起きている。数百万もの人々が、感情的なサポートや危機介入を求めてチャットボットを頼りにし始めているのだ。ChatGPTやClaudeといったツールは本来、生産性向上のために設計されたものだが、現実には孤独感や自殺念慮を抱えるユーザーによってセラピスト代わりに利用されるケースが後を絶たない。しかし、こうした利用は臨床的な検証や透明性のある安全枠組みを欠いており、脆弱な状態にある個人が不適切、あるいは有害な助言を受けるリスクを孕んでいる。

こうした事態を受け、非営利団体のPartnership on AIは先日、AnthropicやMetaといった業界リーダーとメンタルヘルスの専門家を集めた重要なワークショップを開催した。その目的は、AIの開発サイクルが従来の心理学研究のスピードを大幅に上回ってしまう「エビデンスのパラドックス」への対処である。各組織が連携を深めることで、個別の安全対策を超えた、ハイリスクな対話を扱うための標準化されたベンチマークの策定を目指している。

この人間的な危機に対処するには、技術的知見と社会的知見を融合させ、AIが既存の構造的な害悪を増幅させないようにすることが不可欠だ。この取り組みは、特に自殺防止や非自殺的な自傷行為に焦点を当て、第三者機関による評価が可能なベストプラクティスの確立を模索している。最終的に、これらのツールが専門的なケアへの架け橋となるのか、それとも人間的な繋がりの危険な代替品に留まるのか、業界は大きな決断を迫られている。

最近、ChatGPTなどのAI（チャットボット）を、心の悩みを聞いてくれるカウンセラーのように使う人が世界中で何百万人もいます。本来、AIは仕事の効率を上げるために作られましたが、寂しい時や、自分を傷つけたくなってしまうほど辛い時にAIに頼る人が増えているのです。しかし、今のAIにはお医者さんのような「医療としての安全な仕組み（臨床的安全性フレームワーク）」がまだ十分にありません。そのため、助けが必要な人に間違ったアドバイスをしてしまい、かえって危険な状況になる心配があります。

AIが進歩するスピードは、心の病気についての研究よりもずっと早いため、今のAIが本当に安全かどうかを確かめるのが難しくなっています（エビデンスのパラドックス）。そこで、アンソロピック社やメタ社といった有名なAIの会社が、「Partnership on AI」という会議を開きました。ここでは、どの会社のAIでも同じように困っている人を助けられるよう、「共通のルールやテスト（標準的なベンチマーク）」を作ることが話し合われています。

この問題を解決するには、AIを作る技術者と、心の専門家が力を合わせることが大切です。特に、自分を傷つけようとする人を止める方法（自殺予防）などのルールをしっかり決め、外部の専門家が厳しくチェックできるようにすることを目指しています。AIを「人間の代わり」として危ないまま使うのではなく、本当の専門家や病院へつなぐ「架け橋」にできるかどうかが、これからの大きな課題です。