Mistral、時系列予測モデル「Timestral」を公開

Mistral AI2026年10月16日 (金)
  • •Mistralが2026年10月15日、初の時系列基盤モデル群「Timestral」を公開
  • •最大の2億900万パラメーターのモデルが、5つの指標で首位とMistralが発表
  • •4種類のモデルはCPUで動作し、最小の500万モデルは8スレッドで翌日分を10ミリ秒で予測

Mistralは2026年10月15日、初の時系列基盤モデル群「Timestral」を公開しました。同社によると、最大モデルは2億900万パラメーターで、事前学習済みのゼロショットモデルとして、GIFT-Eval、TIME、fev-benchにまたがる5つの指標すべてで首位です。従来の最高性能モデルを、パラメーター数が3分の2で上回ったとしています。結果はGIFT-EvalとTIMEのランキングに提出されました。Timestralは確率的な多変量予測を行い、過去の共変量と既知の将来共変量(予測に使う追加変数)を受け付けます。Mistralは、4種類すべてが精度とモデル規模のパレート最前線にあり、同じ規模でより高い予測精度を出す公開モデルはないと説明しています。

時系列データには、企業のセンサー測定値や監視指標があり、設備容量の計画、エネルギー、サプライチェーン、リスク、保守に使われます。一般にARIMAや線形回帰は単一の系列に適用され、その履歴から学習します。一方、PatchTSTなどの深層学習モデルは、関連する複数の系列にまたがる非線形パターンを学習できますが、通常はデータセットごとに一から訓練します。Mistralによると、Timestralは幅広いデータで事前学習し、系列間で学習済みのパターンを移転することで、データの少ない分野を含め、未見データにもゼロショット予測を行います。ベンチマーク結果には複数モデルを組み合わせず、単一のモデルチェックポイントを使いました。

Timestralは500万、2,800万、1億2,300万、2億900万パラメーターの4種類です。大きいモデルほど予測性能が高く、小さいモデルほど高速で低コストです。Mistralによると、2,800万モデルは約4倍の規模を持つChronos-2をGIFT-EvalとTIMEで上回り、2億900万モデルはパラメーター数が少ないながらTimesFM-3とFalcon-2.0を上回ります。標準的なサーバーCPUで8スレッドを使い、15分間隔の過去データ3週間から翌日分を予測する場合、500万モデルは10ミリ秒、2億900万モデルは140ミリ秒かかります。2,800万モデルは2億900万モデルの5倍速く、1億2,300万モデルは遅延時間がその4分の3で、性能スコアの差は0.2%以内です。

工場では、Timestralがポンプの振動、温度、圧力など、関連するセンサー系列をまとめて予測できます。予測値の分位点を出して不確実性を示し、曜日や機械の状態といったカテゴリ情報も受け付けます。生産計画、予定停止、天気予報など、既知の将来情報も使えます。Mistralが説明するワークフローでは、Timestralがセンサーデータの流れを監視して異常を検知し、その後、エージェントが信号の埋め込み表現を過去のセンサーデータと比較します。複数のサブエージェントが保守記録、勤務記録、作業員のメモ、マニュアル、作業指示書、関連設備の測定値を分析し、エージェントが根拠と次の対応案を添えた診断案を作成します。

Mistralによると、Timestralは既存の監視パイプラインで動かせるほか、同社の言語モデルと組み合わせてマルチモーダルなエージェント型ワークフローにも使えます。技術報告書では4つの手法を詳述する予定です。分離型ホライズン予測では、学習済みの予測トークンが履歴全体を参照し、観測値を予測対象と文脈の両方に使います。実際の欠損値は欠損として記録します。共変量対応アテンションでは各入力の役割を指定し、対象の将来値を見せずに、既知の将来共変量を予測に利用します。訓練データの大半は合成データで、まず傾向、季節性、さまざまなノイズを含む単変量の過程を生成し、それらを非線形な依存関係のある多変量系列に組み合わせました。訓練は文脈長8192の合成データで始まり、その後、文脈を4倍長くして実データと合成データで続けます。目的関数には21個の分位点に対するピンボール損失を使い、CRPSを離散的に近似します。

組織はMistral Forgeを使い、ゼロショット推論、分野固有の共変量などを加える設計拡張、独自データによる微調整、訓練データの構成や事前学習データの再利用、生成した合成サンプルを管理できます。Mistralによると、処理パイプラインは顧客のハードウェア上でも、外部ネットワークから隔離された環境でも実行できます。同社は利用者のデータでTimestralを実行するGitHubリポジトリを公開し、完全な結果を載せた技術報告書も後日公開するとしています。モデルの文脈長は3万2768時点で、21個の分位点による確率予測を出力します。多変量の予測対象と過去のみ、または既知の将来の共変量に対応し、修正MITライセンスの下で、オンプレミス、VPC、外部ネットワークから隔離された環境に導入できます。