Mistral, 시계열 예측 모델 Timestral 공개
- •Mistral이 2026년 10월 15일 첫 시계열 기반 모델 제품군 Timestral 공개
- •Mistral에 따르면 2억 900만 파라미터 모델, GIFT-Eval·TIME·fev-bench의 5개 지표에서 1위
- •네 가지 크기 모두 CPU 실행 가능…500만 모델은 8개 스레드로 하루 앞을 10밀리초 만에 예측
Mistral은 2026년 10월 15일 첫 시계열 기반 모델 제품군 Timestral을 공개했습니다. 회사에 따르면 가장 큰 2억 900만 파라미터 모델은 사전 학습된 제로샷 모델 가운데 GIFT-Eval, TIME, fev-bench의 5개 지표 모두에서 1위를 기록했으며, 기존 최고 성능 모델보다 파라미터 수가 3분의 2에 불과합니다. 결과는 GIFT-Eval과 TIME 순위표에 제출됐습니다. Timestral은 확률적 다변량 예측을 생성하고, 과거 변수와 알려진 미래 변수(예측에 활용하는 추가 정보)를 입력받습니다. Mistral은 네 가지 크기 모두 모델 크기와 정확도의 파레토 최전선에 있어, 각 크기에서 더 나은 예측을 하는 공개 모델이 없다고 밝혔습니다.
시계열 데이터에는 기업의 센서 측정값과 모니터링 지표 등이 있으며, 용량 계획, 에너지, 공급망, 위험 관리, 유지보수에 쓰입니다. 보통 하나의 시계열에 맞춰 과거 기록으로 학습하는 ARIMA나 선형 회귀와 달리, PatchTST 같은 딥러닝 모델은 서로 관련된 여러 시계열에서 비선형 패턴을 학습할 수 있지만 대개 데이터 세트마다 처음부터 훈련해야 합니다. Mistral은 Timestral이 폭넓은 데이터 모음으로 사전 학습돼 시계열 간에 학습한 패턴을 전이하고, 데이터가 부족한 분야를 포함해 보지 못한 데이터에서도 제로샷 예측을 할 수 있다고 설명했습니다. 벤치마크 결과는 여러 모델을 결합하지 않고 단일 모델 체크포인트를 사용해 산출했습니다.
Timestral 제품군은 파라미터 500만, 2,800만, 1억 2,300만, 2억 900만 개 모델로 구성됩니다. 큰 모델은 예측 성능이 높고, 작은 모델은 속도가 빠르며 비용이 낮습니다. Mistral에 따르면 2,800만 모델은 GIFT-Eval과 TIME에서 크기가 약 4배인 Chronos-2를 앞섰고, 2억 900만 모델은 파라미터 수가 더 적으면서 TimesFM-3와 Falcon-2.0을 능가했습니다. 표준 서버 CPU에서 8개 스레드를 사용해 15분 간격으로 3주간 쌓인 기록을 바탕으로 하루 앞을 예측하는 데 500만 모델은 10밀리초, 2억 900만 모델은 140밀리초가 걸립니다. 2,800만 모델은 2억 900만 모델보다 5배 빠르며, 1억 2,300만 모델의 점수는 지연 시간이 4분의 3 수준이면서 2억 900만 모델보다 0.2% 이내로 낮습니다.
산업 현장에서는 Timestral이 펌프의 진동, 온도, 압력처럼 서로 연관된 센서 시계열을 함께 예측할 수 있습니다. 예측 불확실성을 보여주는 분위수를 내놓고, 요일이나 기계 상태 같은 범주형 정보와 생산 일정, 계획된 가동 중단, 일기 예보 등 미리 알려진 미래 정보도 활용합니다. Mistral은 Timestral이 센서 흐름에서 이상 징후를 감시하고, 에이전트가 신호 임베딩을 과거 센서 데이터와 비교하는 작업 흐름을 설명했습니다. 하위 에이전트는 유지보수 기록, 교대 일지, 작업자 메모, 설명서, 작업 지시서, 관련 장비 측정값을 분석할 수 있으며, 이후 에이전트가 근거와 가능한 다음 조치를 담은 진단 초안을 작성합니다.
Mistral은 Timestral이 기존 모니터링 파이프라인에서 실행되거나 자사 언어 모델과 함께 다중모달 에이전트 작업 흐름에 쓰일 수 있다고 밝혔습니다. 기술 보고서에는 네 가지 방법을 설명할 예정입니다. 분리형 예측 구간 방식은 학습된 예측 토큰이 전체 과거 기록을 참고하도록 해 관측값을 예측 대상이자 문맥으로 사용하며, 실제 결측치는 결측으로 표시합니다. 공변량 인식 어텐션은 각 입력에 역할을 부여하고, 대상값의 미래를 노출하지 않으면서 알려진 미래 변수가 예측 대상에 반영되게 합니다. 학습 데이터 대부분은 추세, 계절성, 다양한 잡음을 가진 단변량 과정을 먼저 생성한 합성 데이터였으며, 이후 비선형 의존성이 있는 다변량 시계열로 결합했습니다. 훈련은 문맥 길이 8,192의 합성 데이터로 시작해, 문맥을 4배 늘린 조건에서 실제 데이터와 합성 데이터를 함께 학습합니다. 목표 함수는 21개 분위수에 대한 핀볼 손실이며, 이는 CRPS를 이산적으로 근사합니다.
조직은 Mistral Forge를 통해 제로샷 추론, 분야별 공변량 같은 구조 확장, 독점 데이터 미세 조정, 학습 데이터 구성 제어를 할 수 있습니다. 데이터 구성에는 사전 학습 데이터의 재사용과 생성된 합성 샘플이 포함됩니다. Mistral은 고객 하드웨어와 외부망에서 분리된 환경에서도 파이프라인을 실행할 수 있다고 밝혔습니다. 회사는 사용자가 자체 데이터로 Timestral을 실행할 수 있는 GitHub 저장소를 공개했으며, 전체 결과를 담은 기술 보고서를 추후 내겠다고 했습니다. 모델의 문맥 길이는 시점 32,768개이며, 21개 분위수의 확률적 예측을 출력하고 다변량 대상, 과거 전용 변수 또는 알려진 미래 변수를 입력받습니다. 수정된 MIT 라이선스로 사내 서버, VPC 또는 외부망 분리 환경에 배포할 수 있습니다.