不確実性キャリブレーション

不確実性キャリブレーションとは

AIが自身の回答の信頼度を適切に自己評価し、知識が欠如している場合にその旨を表明できる能力

他の言語での表記と説明

한국어불확실성 보정

모델이 자신이 모르는 정보에 대해 모른다고 응답하거나 답변의 확실성을 올바르게 평가하는 능력

EnglishUncertainty calibration

The ability of an AI system to accurately assess the limits of its own knowledge and express when it does not know an answer

関連用語

• 不確実性推定AIが自身の回答に対して、どの程度の確信（あるいは疑念）を持っているかを数値化する技術。
• 偶然性不確実性データ自体のノイズや確率的な揺らぎに起因する、予測不可能な不確実性のこと。
• 不確実性定量化モデルや測定の結果にどれだけ不確かさがあるかを数値で表す分析分野
• エントロピー情報の不確実性を表す尺度。AIが予測結果に対してどれほど「迷っているか」を判断する指標となる.
• AI能力評価AIモデルやシステムが特定の作業、推論、ツール使用、安全上重要な行動をどの程度実行できるかを評価する試験
• AIアシュアランスAIシステムの安全性、公平性、信頼性を客観的に測定・評価し、その品質を保証するための一連のプロセス。
• グラウンディングAIの回答を信頼できる外部データと結びつけ、事実に基づいた正確な出力を保証する手法。
• アトリビューション・ハルシネーションAIモデルが正しい回答を出力する一方で、その根拠となる情報源や出典を誤って提示したり、存在しない箇所を引用したりする現象のこと。
• 情報利得観測や選択によって不確実性がどれだけ減るかを表す尺度です。