Top-k切り詰め

Top-k切り詰めとは

文章生成で候補語を確率上位k個に絞り、その中から次の語を選ぶサンプリング手法

他の言語での表記と説明

한국어Top-k 절단

다음 토큰 후보 중 확률이 높은 k개만 남겨 샘플링하는 생성 기법

EnglishTop-k truncation

Text sampling method that limits choices to the k most likely next tokens

関連用語

• top_k検索やランキングで、スコア上位k件だけを選んで返す一般的な手法
• トーナメントサンプリング候補を複数の組に分けて比較し、段階的に次の候補を選ぶサンプリング手法です。
• Best-of-Nサンプリングモデルから複数の回答候補を生成し、その中から特定の基準で最も優れたものを1つ選択する手法。
• Recall@K上位K個の検索結果の中に、正解となる文書が含まれている割合を示す情報検索の評価指標
• リランキング最初の検索結果を別のモデルや基準で再評価し、順位を付け直す処理
• Recall@10検索結果の上位10件に正解が含まれる割合を測る評価指標
• Best of NN個の候補出力を生成し、報酬モデルやスコア関数などで評価して最良の1つを選ぶ生成方法です。