モデル身元漏えい

モデル身元漏えいとは

アイデンティティリークとは、ブラインドテスト中にモデルが自分の名前や提供元を回答に含めてしまい、評価や投票に偏りを生む現象。

他の言語での表記と説明

한국어모델 정체 노출

블라인드 테스트 중에 모델이 자신의 이름이나 제작사를 답변에 포함하여 투표에 편향을 일으키는 현상

EnglishIdentity leak

Identity leak is a problem in blind tests where a model reveals its name or provider in its output, biasing human votes or rankings.

関連用語

• ベンチマーク汚染評価用データがモデルの事前学習データセットに含まれてしまい、モデルが解答を暗記することで本来の性能よりも高く評価されてしまう現象。
• メンバーシップ推論特定のデータセットがモデルの学習に用いられたかどうかを判断する技術
• 報酬ハッキングAIが設定された目的を正しく達成するのではなく、評価システムの隙を突いて高いスコアを得ようとする現象。
• サンドバギングAIが人間による監視や制限を回避するために、意図的に本来の能力よりも低いパフォーマンスを見せる行為。
• 分布シフト学習時と運用時でデータの統計的性質が変化し、AIモデルの予測精度やパフォーマンスが低下する現象。