Exowatt、Qwen3で運用ベンチマークを上回る
- •Exowatt、SageMakerで調整した2つのQwen3モデルが別々の運用タスクで大規模モデルを上回ったと発表
- •現場アラーム向けQwen3-1.7Bはmacro-F1 0.911を記録し、現場のCPUでオフライン動作
- •市場分析向けQwen3-14Bはmacro-F1 0.975、回答1,000件あたり0.60ドルで、Claude Opus 4.7は29.26ドル
Exowattは、Amazon SageMaker AIのサーバーレスモデル調整機能を使い、現場アラームの一次判定とクラウド上のエネルギー市場分析向けモデルを継続的に調整するパイプラインを構築したと発表しました。同社によると、Qwen3-1.7BとQwen3-14Bはそれぞれのタスクで、より大規模な最先端モデルを上回りました。Qwen3-14Bの回答1,000件あたりの費用は、Claude Opus 4.7の約49分の1です。Exowattはカスタマイズしたモデルを、実験から9日で本番運用に移しました。
Exowattは、光学レンズで太陽エネルギーを集め、熱電池に蓄え、熱機関で必要に応じて発電するモジュール式太陽光システムを開発しています。同社のP3システムはデータセンターに電力を直接供給し、送電網への接続待ちが数年に及ぶ列を避けられます。Exowattは太陽光発電所のアラーム監視や意思決定を支援するAIエージェントも運用しており、インターネット接続が限られる、または利用できない現場にも導入しています。現場の設備が数千台に増えることを見据え、運用ソフトウェアも規模に合わせて拡張する必要があると同社は述べています。
アラームの一次判定では、ExowattはQwen3-1.7Bを追加学習し、現場のアラームとテレメトリーを読み、根拠を示して分類するか、根拠が不十分な場合は判定を控えるようにしました。プロンプトで指示したQwen3-8Bのmacro-F1は0.735でした。12種類のデータセット版で13個の追加学習済みQwen3-8B候補を試しましたが、この基準を超えませんでした。より小型のQwen3-1.7Bは320件のテストケースでmacro-F1 0.911を記録し、比較対象の最先端モデルを上回りました。学習データは2,522例で、生成した現場シナリオに基づく検証済み判定684件と、認定済みの言い換え1,838件で構成されます。言い換えはQwen3-235Bで生成し、費用は約3.72ドルでした。決定内容、ラベル、根拠の引用、数値が変わっていないことを決定論的な検査で確認しました。学習は約32分で、費用は約20~25ドルでした。8ビット量子化後のモデル容量は約1.71 GiBで、既存のCPUサーバー上にある6 GiBのllama.cppポッドでオフライン動作します。推論ごとの費用はかかりません。
エネルギー市場分析では、Qwen3-14Bが市場データ6時間分、約90行の価格、予測、送電網通知を処理し、約4秒で5種類の市場イベントのいずれかに分類します。ExowattはERCOTの5年分のデータを使い、12のテーブルにまたがる約1億6,300万行からラベル付きの例25,000件を作りました。さらにClaude Sonnet 4.6による言い換えで、学習データを86,281行に拡大しました。LoRAによる学習は1エポックに約8.5時間かかりました。6日間でチームは23件のジョブを実行し、管理型学習の合計時間は約155時間でした。最大4件のジョブを同時に実行しました。
保留したテストケース2,000件で、追加学習済みQwen3-14Bはmacro-F1 0.975、イベント正解率0.983、有効なJSONの出力率1.000を記録しました。Claude Opus 4.7は同じ指標で0.625、0.718、0.9995でした。Qwen3-14Bのmacro-F1は0.35高く、95%信頼区間は0.324~0.371でした。後日実施した別のテストセットでも0.968を記録しました。回答1,000件あたりの費用は0.60ドルで、Claude Opus 4.7の29.26ドルと比べて低くなっています。Amazon Bedrockの料金は、インポートしたモデルが稼働している間のみ1時間あたり6.86ドルです。両モデルは入力行にひもづく主張を含む厳密なJSONを返し、根拠のない主張は運用担当者に届く前に取り除かれます。このパイプラインはAWSの7サービスを使い、Exowatt側でインスタンス、クラスター、エンドポイントを管理する必要はありません。