MetaのMuse Spark Open、GroqCloudで限定プレビュー
- •Muse Spark Openが発表当日にGroqCloudで限定プレビューを開始
- •総パラメーター数は816B、トークンごとの有効パラメーター数は42B、専門家は256個
- •GroqCloudは利用者ごとに毎秒350トークン超、コンテキスト長131,072トークンに対応
Groqは、MetaのMuse Spark Openが発表当日にGroqCloudで限定プレビューを開始したと発表しました。このオープンウェイトモデルはエージェント型コーディング向けに設計されています。Groqによると、同社は600万人を超える開発者、フォーチュン500企業、数千社のAI企業にサービスを提供しています。
Muse Spark Openの総パラメーター数は816Bで、トークンごとの有効パラメーター数は42Bです。256個の専門家を使う混合専門家モデル(MoE)を採用しています。GroqCloudはコンテキスト長131,072トークンに対応し、テキストと画像を入力してテキストを出力できます。処理速度は利用者ごとに毎秒350トークン超です。モデルは複数ファイルにまたがるリファクタリング、デバッグの作業、長時間続くタスクなど、開発者の作業手順を使って訓練されました。
MetaはMuse Spark Openを、長時間のタスクで計画、実行、観察を行い、進め方を修正できるよう設計しました。サブエージェントを起動して連携させ、ウェブを閲覧し、デスクトップ、モバイル、ブラウザー環境でコンピューターを操作できます。各操作の前に、短い意図を記述します。Metaは初回の試行での正確性が高まり、ツール呼び出しも安定していると報告しています。
Groqによると、エージェント型コーディングではモデルへの呼び出しが連なり、各段階で前の処理の完了を待つため、推論速度が開発者の待ち時間に影響します。同社のプラットフォームは、北米、欧州、中東、アジア太平洋地域のデータセンターで毎週数兆トークンを処理しています。Groqの幹部スコット・アルビン(Scott Albin)は、エージェントは1つのタスクで数十回モデルを呼び出すと述べ、Muse Spark OpenをGroqCloudで動かすことで、その呼び出しを高速に保てると説明しました。