ロイター、中国AI企業で産業規模のモデル蒸留が拡大と報道
- •ロイターが300件超の資料を調査し、中国AI企業でモデル蒸留が産業規模に広がっていると報告
- •Qwen2.5-72B向けの二言語学習例10,750件や、GPT-4oが生成したコーディング調整計画を確認
- •OpenAIとAnthropicは競合モデルの学習利用を禁止し、米当局者は知的財産の窃取に当たる可能性を中国側に警告
ロイターが中国の学術論文、特許、企業開示、求人情報、政府文書など300件超を調べたところ、中国のAI開発企業が米国の有力な大規模言語モデルの出力を使い、国内の小型競合モデルを学習させる動きが広がっていました。モデル蒸留(大規模モデルの出力で小型モデルを学習させる手法)は、学術実験から中国各地の産業利用へ移ったと調査は報告しています。
モデル蒸留では、「教師」モデルが生成した回答やコード、問題解決の手順を、「生徒」モデルの学習データにします。NVIDIA製GPUなどの計算用ハードウェアを入手しにくい中国企業は、海外モデルへの問い合わせ結果を再利用できる学習素材にできます。記事によると、北京の貿易規制強化を受け、NVIDIAのH200を8基搭載したサーバーは中国のグレーマーケットで90万ドルで販売されていました。
2024年11月、上海交通大学の研究者はOpenAIのo1が出した回答約5,000件を選び、GPT-4o miniで翻訳して、アリババのQwen2.5-72Bを追加学習するための二言語例10,750件を作成しました。研究者らは蒸留への過度な依存が独自のブレークスルーを制限する恐れがあると警告しました。2025年にはアリババの研究者も中国語以外の学習データを作り、GPT-4とGPT-4oで回答を採点・選別して、小型Qwenモデルの学習に使いました。
2026年2月、上海交通大学の研究者と美団は、コーディング作業の複数エージェント間の調整計画をGPT-4oに生成させ、それを使って中国製の小型モデルを学習させました。蒸留自体は合法で世界各地で使われていますが、OpenAIとAnthropicは利用規約で、自社モデルを競合モデルの学習に使うことを禁じています。報道されていない7月の成都での会合では、米商務省当局者が、中国側の規制当局に対し、米国のAI出力を集める行為は知的財産の窃取に当たる可能性があると警告しました。
米当局者は、産業規模の蒸留が中国モデルと米国の競合モデルとの性能差を縮めている主な理由だと、ワシントンが見ていると述べました。記事は、NVIDIA製チップの輸出規制をさらに強めても、米国が中国のAI開発を遅らせる手段は限られると伝えています。また、ワシントンが中国によるOpenAIおよびAnthropicのモデル利用を禁じる法的枠組みを策定する可能性があると報じました。
最も速く正確なAIニュースをメールでいかがですか?