PFN、翻訳特化LLM「PLaMo 3 Translate」公開

Preferred Networks（PFN）は、翻訳特化LLM「PLaMo 3 Translate」の重みをHugging Faceで公開しました。0.8B、2B、8B、31Bの4サイズがあり、53言語の翻訳に対応します。開発元によると、最小の0.8Bモデルでも、日英および日本語と多言語の翻訳で、30倍以上大きな既存の翻訳特化LLMを上回る性能を達成しました。周辺コンテキスト、翻訳用語集、常体・敬体の指定にも対応します。

各サイズについてBF16の重みに加え、FP8、W4A16、W4AFP8、NVFP4、GGUF、MLX形式を用意しました。量子化にはAutoRoundなどを使い、ベンチマークでは各量子化形式の精度低下をBF16版から最小限に抑えたとしています。配布形式は、対応するGPUやCPU、Apple silicon、推論エンジンなど利用環境に応じて選べます。ライセンスはPLaMoコミュニティライセンスです。個人の学習や趣味での利用は無償で、非商用利用に事前登録は要りません。利用者または関係会社の直近事業年度の収入・売上が10億円以下の場合、専用フォームで事前登録すれば商用利用も無償です。10億円を超える商用利用には別途契約が必要です。

PFNは、スマートフォン上で0.8Bモデルを動かす社内デモも示しました。機内モードのようにインターネットへ接続していない環境でも高速で自然な翻訳を行いますが、このアプリ自体をPFNが現時点で提供しているわけではありません。

学習は、PLaMo第3世代の事前学習済みベースモデルに2段階の教師あり微調整（正解例を使って出力を学ぶ手法）を施し、その後に直接選好最適化（好ましい回答を選びやすくする調整法）を行う構成です。第1段階では大量の原文・訳文ペアで翻訳タスクに適応させ、第2段階では実利用に近い多様な原文と、より洗練した合成訳文で品質を高めます。8B以下のモデルには、第2段階の教師あり微調整と選好最適化の間に31Bモデルからの蒸留も行い、大型モデルの能力を小型モデルへ移します。

翻訳性能の評価には、日英の社内PFTBベンチマークと、翻訳SaaSの実際のリクエストに近い形式を測る英日専用のSaaSベンチマークを使いました。両者は参照訳との文字列類似度を評価します。加えて、WMT24++の日本語トラックではCOMET-22を、多言語評価のFLORES+では日本語・英語と複数言語の間の翻訳にchrF++を用いました。PFTBは論文、製品レビュー、詩などを含み、SaaSベンチマークはHTMLタグを維持したWebページ翻訳を求めます。WMT24++は短文中心で参照訳の品質に懸念があるため、開発時には主にPFTBとSaaSのスコアを参照したと説明しています。

学習データの大半は、Webなどから集めた原文にLLMで訳文を付けて作りました。原文収集ではスパムを避け、文章やホスト、分野に多様性を持たせ、各言語のネイティブ文章を優先します。言語の混入や機械翻訳由来の文章も、言語別ルールやフィルターで除外します。訳文の合成にはGemma 4 31B ITを採用しました。トーナメント式データ合成では複数候補を比較・融合し、候補の長所も取り込んで改善します。逆翻訳では合成訳文から原文へ戻すペアも作りますが、情報の対応を保つため、Gemma 4で原文を調整し、自然な表現をできるだけ維持します。

反復的自己蒸留では、その時点のPLaMo翻訳モデルが複数候補を出し、トーナメント式合成で改善した訳文を既存データの訳文と比較します。新しい訳文が良いと判定された場合にデータへ採用し、更新データで再び学習する工程を繰り返します。計算コストの都合から、この方法は第2段階のデータだけに適用しました。最終データは第1段階が約33.9Bトークン、第2段階が約3.4Bトークン、合計約37.3Bトークンで、同社は文庫本数十万冊相当と説明しています。第2段階には学術論文、文学、技術文書、金融、特許、医療、ニュース、百科事典、Web文章、口語、文字起こし、ブラウザ翻訳、ファイル翻訳などが含まれます。

同社の評価では、日英性能は第1段階の教師あり微調整でベースモデルから大きく伸び、第2段階でも向上しました。0.8Bモデルは8BのPLaMo 2 Translateを上回ったとしています。多言語性能も第1段階で大きく伸び、とりわけ小型モデルの向上が顕著でした。PLaMo 2 Translateでは後段の選好最適化による改善が目立ったのに対し、PLaMo 3 Translateではデータを洗練することで教師あり微調整だけでも大幅に性能を高めたと説明しています。

直接選好最適化では、同じ原文に対する候補訳をGemma 4 31B ITで評価し、最良をchosen、相対的に悪いものをrejectedとして学習します。これを2段階行う反復的DPOを実施しました。ベンチマーク上の差はほとんど測れないほど小さかった一方、31Bモデルのペア比較では、DPO第1周目はSFTに対し英日57%、日英59%の勝率でした。第2周目は第1周目に対し英日53%、日英57%でした。判定にはGemini 3.1 Proを使い、提示順を入れ替えて各サンプルを2回評価し、判定が割れた場合は双方に0.5勝を付けました。例として、店主の文章では「お客様に喜んでいただける姿」が「お客様の喜ぶ姿」に、医薬品の説明では「治療に適応している」が「治療に適応がある」に変わりました。PFNは、DPOが常に全表現を改善するわけではないものの、流暢さを高める細かな調整を行う傾向があると述べています。開発初期に検討したGRPOは、ベンチマークスコアが上がる一方、人手評価で流暢性が下がる傾向が見られたため採用しませんでした。

Preferred Networks（PFN）は、翻訳特化LLM「PLaMo 3 Translate」の重みをHugging Faceで公開しました。0.8B、2B、8B、31Bの4サイズがあり、53言語の翻訳に対応します。開発元によると、最小の0.8Bモデルでも、日英および日本語と多言語の翻訳で、30倍以上大きな既存の翻訳特化LLMを上回る性能を達成しました。周辺コンテキスト、翻訳用語集、常体・敬体の指定にも対応します。

各サイズについてBF16の重みに加え、FP8、W4A16、W4AFP8、NVFP4、GGUF、MLX形式を用意しました。量子化にはAutoRoundなどを使い、ベンチマークでは各量子化形式の精度低下をBF16版から最小限に抑えたとしています。配布形式は、対応するGPUやCPU、Apple silicon、推論エンジンなど利用環境に応じて選べます。ライセンスはPLaMoコミュニティライセンスです。個人の学習や趣味での利用は無償で、非商用利用に事前登録は要りません。利用者または関係会社の直近事業年度の収入・売上が10億円以下の場合、専用フォームで事前登録すれば商用利用も無償です。10億円を超える商用利用には別途契約が必要です。

PFNは、スマートフォン上で0.8Bモデルを動かす社内デモも示しました。機内モードのようにインターネットへ接続していない環境でも高速で自然な翻訳を行いますが、このアプリ自体をPFNが現時点で提供しているわけではありません。

学習は、PLaMo第3世代の事前学習済みベースモデルに2段階の教師あり微調整（正解例を使って出力を学ぶ手法）を施し、その後に直接選好最適化（好ましい回答を選びやすくする調整法）を行う構成です。第1段階では大量の原文・訳文ペアで翻訳タスクに適応させ、第2段階では実利用に近い多様な原文と、より洗練した合成訳文で品質を高めます。8B以下のモデルには、第2段階の教師あり微調整と選好最適化の間に31Bモデルからの蒸留も行い、大型モデルの能力を小型モデルへ移します。

翻訳性能の評価には、日英の社内PFTBベンチマークと、翻訳SaaSの実際のリクエストに近い形式を測る英日専用のSaaSベンチマークを使いました。両者は参照訳との文字列類似度を評価します。加えて、WMT24++の日本語トラックではCOMET-22を、多言語評価のFLORES+では日本語・英語と複数言語の間の翻訳にchrF++を用いました。PFTBは論文、製品レビュー、詩などを含み、SaaSベンチマークはHTMLタグを維持したWebページ翻訳を求めます。WMT24++は短文中心で参照訳の品質に懸念があるため、開発時には主にPFTBとSaaSのスコアを参照したと説明しています。

学習データの大半は、Webなどから集めた原文にLLMで訳文を付けて作りました。原文収集ではスパムを避け、文章やホスト、分野に多様性を持たせ、各言語のネイティブ文章を優先します。言語の混入や機械翻訳由来の文章も、言語別ルールやフィルターで除外します。訳文の合成にはGemma 4 31B ITを採用しました。トーナメント式データ合成では複数候補を比較・融合し、候補の長所も取り込んで改善します。逆翻訳では合成訳文から原文へ戻すペアも作りますが、情報の対応を保つため、Gemma 4で原文を調整し、自然な表現をできるだけ維持します。

反復的自己蒸留では、その時点のPLaMo翻訳モデルが複数候補を出し、トーナメント式合成で改善した訳文を既存データの訳文と比較します。新しい訳文が良いと判定された場合にデータへ採用し、更新データで再び学習する工程を繰り返します。計算コストの都合から、この方法は第2段階のデータだけに適用しました。最終データは第1段階が約33.9Bトークン、第2段階が約3.4Bトークン、合計約37.3Bトークンで、同社は文庫本数十万冊相当と説明しています。第2段階には学術論文、文学、技術文書、金融、特許、医療、ニュース、百科事典、Web文章、口語、文字起こし、ブラウザ翻訳、ファイル翻訳などが含まれます。

同社の評価では、日英性能は第1段階の教師あり微調整でベースモデルから大きく伸び、第2段階でも向上しました。0.8Bモデルは8BのPLaMo 2 Translateを上回ったとしています。多言語性能も第1段階で大きく伸び、とりわけ小型モデルの向上が顕著でした。PLaMo 2 Translateでは後段の選好最適化による改善が目立ったのに対し、PLaMo 3 Translateではデータを洗練することで教師あり微調整だけでも大幅に性能を高めたと説明しています。

直接選好最適化では、同じ原文に対する候補訳をGemma 4 31B ITで評価し、最良をchosen、相対的に悪いものをrejectedとして学習します。これを2段階行う反復的DPOを実施しました。ベンチマーク上の差はほとんど測れないほど小さかった一方、31Bモデルのペア比較では、DPO第1周目はSFTに対し英日57%、日英59%の勝率でした。第2周目は第1周目に対し英日53%、日英57%でした。判定にはGemini 3.1 Proを使い、提示順を入れ替えて各サンプルを2回評価し、判定が割れた場合は双方に0.5勝を付けました。例として、店主の文章では「お客様に喜んでいただける姿」が「お客様の喜ぶ姿」に、医薬品の説明では「治療に適応している」が「治療に適応がある」に変わりました。PFNは、DPOが常に全表現を改善するわけではないものの、流暢さを高める細かな調整を行う傾向があると述べています。開発初期に検討したGRPOは、ベンチマークスコアが上がる一方、人手評価で流暢性が下がる傾向が見られたため採用しませんでした。