CoSIR、LLMの協調学習を改善
- •10月13日公開のプレプリントで、証拠共有と情報活用に報酬を与えるLLMの追加学習手法CoSIRを発表
- •Qwen3-4B、Qwen3-8B、Gemma-3-4B-itの3モデルで、未学習の協調ベンチマーク7課題の合計スコアが比較手法を上回る
- •Qwen3-8Bでは基礎モデルより31.85ポイント上昇し、非公開情報の開示率も68.5%から74.3%に上昇
研究者らは10月13日に公開したプレプリントで、大規模言語モデル(LLM)のエージェントに協調を教える追加学習手法「CoSIR」を発表しました。関連する証拠の共有、不足情報の要求、チームメートの貢献を判断に使うことに報酬を与えます。研究者らによると、最終的な課題の成否だけでは、どのメッセージが正解に役立ったかを十分に評価できません。
CoSIRは、エージェントごとに評価表の異なる部分を見せ、情報交換を通じて最適な選択肢を選ばせる検証可能な環境を使います。ベイズ評価器(証拠に応じて確率を更新する手法)は、情報共有によってチームのサプライザルがどれほど減るかを採点します。論文ではサプライザルを、各エージェントが持つ証拠に基づき正解に割り当てる確率の負の対数の合計と定義しています。正直な回答が得られた場合にサプライザルをどれだけ減らせるかに応じて質問にも点数を付け、受け取った情報を個別の判断に使う行動には別の報酬を与えます。研究者らは自己対戦型強化学習によって、これらの報酬を基礎モデルに直接適用しました。
研究チームはQwen3-4B、Qwen3-8B、Gemma-3-4B-itを追加学習し、分散した証拠、数学的推論、協調的な意思決定を扱う未学習の自然言語協調ベンチマーク7課題で転移性能を評価しました。比較対象の手法の中で、CoSIRは3つすべてのモデル系列において7課題の合計スコアが最も高く、Qwen3-8Bでは基礎モデルを31.85ポイント上回りました。
行動分析では、Qwen3-8BがHiddenBenchで非公開情報を開示した割合が68.5%から74.3%に上昇しました。3モデルを対象にしたMAST分析では、チームメートの入力を使わない失敗が26.3%から22.8%に、確認を求めない失敗が36.4%から32.0%に減りました。研究者らは、GSM8K、MMLU、IFEvalでの性能はおおむね維持されたと報告しています。