Sakana AI、自己改善手法「MASS」を発表
Sakana AI2026年10月12日 (月)
- •仮想サブエージェントで優れたチーム作業手順を探し、共有モデルを訓練するMASSを導入
- •27Bのオープンウェイトモデルで2回改善し、4つのベンチマークで出力トークン当たりのスコアが1.2〜1.6倍に上昇
- •評価者に共通する盲点が、再帰的な自己改善訓練で誤りを強化する恐れを研究者が指摘
Sakana AIは10月11日付の投稿で、再帰的自己改善の手法「Multi-Agent Self-Supervision（MASS）」を発表しました。単一の共有モデルが仮想サブエージェントを通じて課題を解き、よりよいチーム作業手順を探して、その成果を評価します。最も成績のよかったチームの実行データでモデルを訓練し、チーム全体の経験を共有モデルに移します。
研究チームは、合成された自由形式の研究課題を使い、27Bのオープンウェイトモデルで改善サイクルを2回実施しました。2回目の後、出力トークン当たりのスコアは、4つの研究ベンチマーク全体で基礎モデルの1.2〜1.6倍になりました。課題を解くモデルのデータで訓練すると、最適化役と評価役の双方が改善し、複数エージェントの実行記録は単一エージェントの記録より効率的な訓練データになったと報告しています。また、改善の速度を制限する可能性があるのは評価役の能力ではなく、最適化役の能力だとしています。
研究者らは、同種のモデルによる再帰的自己改善には、AI安全性の観点から慎重な研究が必要だと述べました。モデルが自らの成果を評価すると、共通の盲点によって誤りが進歩として受け入れられ、訓練を通じて強化される恐れがあります。研究者らは、こうした失敗の仕組みを理解し、検出して介入する手段を保つ必要があるとしています。研究は、カリフォルニア大学バークレー校のHyunin Lee、Jinglue Xu、Jeffrey Seely、Yujin Tangと、共同研究者のSomayeh Sojoudi、Matei Zaharia、Donghyun Leeが実施しました。