ガートナー、シャドーAIによる情報漏えいに迅速対応を勧告
- •ガートナー、企業未承認のAIサービスから情報が漏えいした場合の迅速な対応を勧告
- •シャドーAI関連の事故は43％、平均被害額は1件あたり539万ドル
- •削除後も情報が最長5年間残るケースがあり、ログやバックアップの確認が必要
ガートナーは最近の報告書で、企業の承認を得ずに個人アカウントでAIサービスを使い、データが漏えいした場合は迅速に対応するよう警告しました。会社のパソコンからChatGPTにアクセスしても、個人アカウントでは企業のセキュリティーポリシーが適用されない場合があります。業務用端末を使っているだけでは、入力した機密情報は保護されません。画面上で会話を削除することと、サービスのサーバーからデータが実際に削除されることも別です。
ガートナーが引用したIBMの2026年データ漏えいコスト報告書によると、2025年3月から2026年2月までに起きた全データ漏えい事故のうち、シャドーAIに関連する事故は43％でした。前年の2倍以上に増え、関連事故の平均被害額は1件あたり539万ドルでした。
会話履歴を消しても、サーバーのリクエスト・応答ログ、安全性審査システム、一時保存領域、バックアップサーバーに情報が残ることがあります。ガートナーが示した一般的な例では、削除した会話履歴とサーバーログは約30日、安全性審査の対象データは2～7年、AI学習用に収集したデータは最長5年間保管される場合があります。実際の保管期間はサービスやアカウントの種類、データ処理方針によって異なります。
モデルの学習にすでに反映された情報は、元のファイルを削除しても影響が残る場合があります。入力データがモデルの複数のパラメーターに統計的に反映されるためです。特定の情報を選んで取り除くマシンアンラーニング（学習情報を除去する技術）も、実用化には限界があるとされています。情報漏えいを確認した場合、ガートナーはAI学習への利用設定を確認し、追加の入力を止め、漏えいしたパスワードや認証情報を変更するよう勧告しました。サービス提供事業者にデータ削除を依頼し、サーバーログやバックアップデータの保管・削除状況も確認する必要があります。
ガートナーは、企業はAIの利用を単に禁止するのではなく、従業員がどのサービスを使い、どの情報を入力しているか把握したうえで、承認済みサービスとデータ管理基準を整えるべきだと述べました。