*筆者の主観が大いに含まれている内容です。
*1つの記事として扱うには、非常に範囲が広い題材であることは理解してます。
時系列基盤モデル
簡単に表現すると、大量の時系列データを学習して時系列予測でも簡単・高精度で実行できるモデルです。
この分野内では TSFM(Time Series Foundation Models)と表現されることが一般的です。
ビックテックのプレイヤーが、それぞれ独自の学習済みモデルを公開しています。
| 企業 | モデル | リリース | repo |
|---|---|---|---|
| Amazon | chronos2 | 25/10 | url |
| TimesFM2.5 | 25/09 | url | |
| Salesforce | Moirai2 | 25/08 | url |
最近では、TSFM はリリースされるタイミングで GIFT-Eval というベンチマークデータセットに成績を公開するのが一般的な流れとなっています。
https://huggingface.co/spaces/Salesforce/GIFT-Eval
また、amazon が作成した fev-benchmark という評価データセットも存在しています
https://huggingface.co/spaces/autogluon/fev-bench
最近の話題(NeurIPS workshop)
(私は NeurIPS に参加しないでこの記事を書いています)
2025 年の NeurIPS で TSFM に関するワークショップが開催されました。
https://berts-workshop.github.io/
そのイントロダクションが非常に刺さる内容だったのでここで取り上げます
Foundation models (FMs) have achieved great success in NLP and vision, inspiring over 20 new time series FMs (TSFMs) in the past year. Despite promising results, studies show that carefully designed lightweight supervised baselines often match TSFM performance. Unlike NLP’s “BERT Moment,” TSFMs still require full fine-tuning to be competitive in real-world scenarios. Additionally, some tabular FMs rival TSFMs without being time series-specific. Recent benchmarks also provide mixed evidence: GIFT-Eval favors TSFMs, OpenTS shows statistical models outperforming deep learning on univariate data, and FoundTS finds supervised baselines on par with TSFMs. This workshop aims to bring together researchers to examine the gap between TSFM potential and real-world utility, and to identify benchmarks and applications where TSFMs can truly excel.
その中でも重要なのはここ
Recent benchmarks also provide mixed evidence: GIFT-Eval favors TSFMs, OpenTS shows statistical models outperforming deep learning on univariate data, and FoundTS finds supervised baselines on par with TSFMs.
端的に言うと、ベンチマークによって TSFM やディープラーニングモデル、教師ありモデルの優劣が異なる状況が発生しているということです。
私自身、ほぼすべての TSFM を技術検証でゼロショット・ファインチューニングを含め試してはいるもの、独自の非公開データに対しては予測が安定しない or 精度が期待を超えないことが多く、オリジナルで構築したモデルの精度のほうが高い状況で、まだ本番環境での運用は使い所を見定める必要があるというスタンスです。もちろん、TSFM が有用な分野があるが、まだ私がその分野に直面していないだけかもしれません。
TSFM の予測精度に関する報告する論文・レポート
いくつか取り上げます
Performance of Zero-Shot Time Series Foundation Models on Cloud Data
https://arxiv.org/abs/2502.12944
時折、カオスな予測を生成することがある指摘
How Foundational are Foundation Models for Time Series Forecasting?
https://arxiv.org/abs/2510.00742v3
モデルが事前学習で見たデータには強いが、学習していない分布には弱く、汎化性能に限界があるのではないかという指摘
Zero-shot forecasting of epidemics
https://openreview.net/forum?id=h5ElB4guAd
疫病の予測において、TimeGPT や TiRex といった TSFM が ARIMA や XGBoost、LSTM のベースラインを予測精度で上回ったという報告
Amazon Chronos is 10% less accurate and 500% slower than training classical statistical models.
https://github.com/Nixtla/nixtla/tree/main/experiments/amazon-chronos?trk=public_post_comment-text
chronos-T5 系は、古典的統計モデルのアンサンブルに精度で負けているという報告
これまで読んだ論文の一部をピックアップしていますが、これら以外にも様々な角度での報告がされており、
評価はやや劣勢という印象持ちます。
私のTSFMモデルに対する総評としては、
- 事前学習データと傾向が似ているデータセットに対する予測には強い
- regime switchなど状態変化が起きると予測を大きく外す
- モデルのパラメータサイズの大きさは予測精度の高さと連動しないことがある（モデルパラメータが小さいものが精度が高いということがありうる）
の3点が大きな特徴だと理解しつつ、本番運用に向けては使いどころを見極める必要があると思っています。
追試
そんな中で、2025 NeurIPS の時系列ワークショップで採択された論文がこちら
A More Realistic Evaluation of Cross-Frequency Transfer Learning and Foundation Forecasting Models
https://arxiv.org/abs/2509.19465
簡単にいうと、TSFM と NN、統計モデルを新データセットで追試しましたという論文です。Amazon の研究チームが発表しています。
ハイパラチューニングからデータセットまで見直し、公平な評価を行うようにしています。
評価が高い有力なモデルを比較対象として上げており、内容としては申し分ないものに思います。
結論でいうと、モデル発表時のレポートでよく出てくる「TSFM が古典的モデルに対して xx%精度が高く、NN モデルに対しても xx%精度が高い」というものは過大評価にしか過ぎず、追試をしてみたら、「確率的予測指標（sCRPS）において、統計モデルは TSFM より 8.2%優れており、点予測指標（MASE）においては、20%以上優れていた。」というこれまでの報告を覆す結果となっています。
情報推薦の分野でも似たようなことはありましたが、正しく比較が行われることの重要性を改めて感じます。
話が逸れすぎるので詳細は割愛しますが、こちらの論文上は TSFM の精度向上に向けたヒントも散りばめられており非常に面白い内容に仕上がっています。データセットの構成・評価についても公平になるように細かく設計されており非常に勉強になる内容でおすすめです。蛇足ですが、Amazonの方が出した論文ですが、「chronosすごい」という内容になってないところに誠実さを感じます。
最後に
大規模言語モデルのように時系列データに対して大統一モデルを作成するという目標は、観測値が発生する背後の条件も分野によって大きく異なるという状況もあり、かなり難易度が高いタスクではないのかという気持ちがあります。ただ、データサイズが小さくモデリングが難しい領域や、予測時系列が非常に多いケースで予測コスト低減としては有用な気もしています。
まだ、書き足りない部分もあり、もっと書きたいことはあるのですが、力尽きたので記事はここで終わりです。
全体的に批判的な記事になりましたが、様々なアーキテクチャを試行錯誤しつつ進歩を重ねている分野であり、新たなモデルがリリースされる度にワクワクしてレポートを読んでいます。