OpenAIは、ChatGPT内のデータ漏洩リスクを軽減するためのセキュリティ機能「Lockdown Mode」を正式にリリースした。2月に初めて発表されたこの機能は、Free、Go、Plus、Proなどの個人アカウント層および、セルフサービスのChatGPT Businessアカウントに順次導入されている。

Lockdown Modeは、機密情報を外部の攻撃者に転送する恐れのあるアウトバウンドネットワークリクエストを制限する仕組みだ。このセキュリティ層は、プロンプトインジェクション攻撃の最終段階であるデータエクスフィルトレーションの経路を遮断することに特化している。同社は、このモードによってシステムへの攻撃そのものを完全に防ぐことはできないと説明しており、アップロードされたファイルやキャッシュされたWebコンテンツに埋め込まれた悪意のある入力によって、モデルの動作や精度に影響が出る可能性は残る。

技術アナリストのサイモン・ウィリソンは、このメカニズムが「Lethal Trifecta（致命的な三要素）」を効果的に解消すると指摘している。これは、AIシステムがプライベートデータへのアクセス、信頼できないコンテンツの処理、および攻撃者へのデータ送信経路という三つの条件を同時に満たしてしまうシナリオを指す。Lockdown Modeは、AIベースの評価に依存せず、ネットワークの送信経路を確定的に遮断することで、高度な攻撃に対しても堅牢な防御壁を提供する。

OpenAIは、ChatGPT内のデータ漏洩リスクを軽減するためのセキュリティ機能「Lockdown Mode」を正式にリリースした。2月に初めて発表されたこの機能は、Free、Go、Plus、Proなどの個人アカウント層および、セルフサービスのChatGPT Businessアカウントに順次導入されている。

Lockdown Modeは、機密情報を外部の攻撃者に転送する恐れのあるアウトバウンドネットワークリクエストを制限する仕組みだ。このセキュリティ層は、プロンプトインジェクション攻撃の最終段階であるデータエクスフィルトレーションの経路を遮断することに特化している。同社は、このモードによってシステムへの攻撃そのものを完全に防ぐことはできないと説明しており、アップロードされたファイルやキャッシュされたWebコンテンツに埋め込まれた悪意のある入力によって、モデルの動作や精度に影響が出る可能性は残る。

技術アナリストのサイモン・ウィリソンは、このメカニズムが「Lethal Trifecta（致命的な三要素）」を効果的に解消すると指摘している。これは、AIシステムがプライベートデータへのアクセス、信頼できないコンテンツの処理、および攻撃者へのデータ送信経路という三つの条件を同時に満たしてしまうシナリオを指す。Lockdown Modeは、AIベースの評価に依存せず、ネットワークの送信経路を確定的に遮断することで、高度な攻撃に対しても堅牢な防御壁を提供する。