時系列予測
時系列基盤モデルTimestral公開:共変量の扱いをChronos-2と比べる
- 時系列基盤モデル
- 時系列予測
- 共変量
- ゼロショット予測
- Chronos-2
- Timestral
- 注意マスク
- 目的変数
- 欠損値
- ライセンス
- Apache-2.0
- Modified MIT
- 合成データ
- コンテキスト長
- Amazon
- Mistral AI
- 分位点
- 技術報告
- リーダーボード
目次
工場の設備の電力負荷や商品の需要のように、時間とともに並ぶ値を時系列と呼ぶ。実務では、ある時系列の明日以降を予測したい場面が多い。予測したい系列を目的変数と呼ぶ。予測の対象ごとに学習し直さずに、学習済みのモデルへ過去の値を渡すだけで予測を得る使い方を、ゼロショット予測と呼ぶ。多様な時系列で事前に学習し、この使い方ができるモデルを、時系列基盤モデルと呼ぶ。
目的変数の過去だけを読むモデルは、過去に無かった変化を予測できない。明日から生産ラインの稼働台数が倍になる、来週は祝日で工場が止まる、といった予定は、電力負荷の過去の値には現れていないからである。こうした予測を助ける別の系列を、共変量と呼ぶ。共変量には、生産計画や祝日の暦のように将来の値が今わかっているものと、外気温の実測のように今までの値しかわからないものがある。
これまでの時系列基盤モデルの多くは、目的変数の過去だけを入力に取り、共変量を渡せなかった。2025年10月に Amazon が Chronos-2 を、2026年10月に Mistral AI が Timestral を公開し、どちらも共変量を受け取れるようになった。本稿はこの二つを比べる。二つとも設計を論文やソースコードで公開しているので、一次資料で確かめられる。共変量を扱う基盤モデルには、ほかに TabPFN-TS と COSMIC もある1が、本稿は扱わない。
時系列基盤モデルに共変量を渡すと予測の何が変わり、使う側は Chronos-2 と Timestral のどちらを選べばよいのか。
時系列基盤モデルに共変量を渡すと、モデルは生産計画のように将来がわかる予定を予測に入れられ、目的変数の過去には無い変化を予測できる。Chronos-2 と Timestral は共変量を同じ形で受け取るので、選ぶ決め手は共変量の扱いではなく、利用条件と実績にある。
Chronos-2 は重みを誰でも商用に使え、作り手の論文と約 1 年の利用がある。Timestral は 15 分刻みで約 341 日分の履歴を入れられる(Chronos-2 は約 85 日分)が、重みは前月の売上が 2,000 万ドルを超える会社には使えず、性能は作り手の報告しかない。
明日の稼働台数が倍になるラインの電力負荷を予測する
※ この節の例は、説明のために作った架空のものです。
共変量を渡すと、目的変数の過去に無い予定を、モデルが予測に使える。生産ライン A の 15 分ごとの電力負荷を、今日の終わりに明日の 1 日分予測する場面を考える。ライン A は今日まで 2 台の設備で動き、明日は 4 台に増やす予定である。
共変量を渡さないと、モデルが読めるのは電力負荷の過去だけである。過去の電力負荷は 2 台で動いたときの値しか含まないので、明日の台数が増えることを知る手段がない。予測は、今日までと同じ水準と日々の繰り返しをなぞる。
共変量を渡すと、入力は次の三つの行になる。
| 行 | 今日まで | 明日 |
|---|---|---|
| 電力負荷 | 観測値 | 空欄 |
| 外気温 | 観測値 | 空欄 |
| 生産計画 | 2 台 | 4 台 |
モデルは、過去の記録から「稼働台数が多い時間帯は電力負荷が高い」という関係を読み取り、明日の 4 台を条件にして予測できる。
二つのモデルとも、この三つの行を受け取る。違うのは、明日の欄がまだ分からない行の渡し方だけである。
- Chronos-2:三つの行を、明日の分まで同じ長さにそろえて渡す。まだ分からない欄(明日の電力負荷と外気温)には、「値なし」(欠損値)を入れる。三つの行には同じ群(互いを参照させる系列の集まり)の番号を付け、一つの予測対象のものだと示す1。
- Timestral:各行を、値が分かっているところまでの長さで渡す。電力負荷と外気温は今日までの行、生産計画は明日までの行になり、行の長さがそろっていなくてよい2。
どちらのモデルも、明日の電力負荷を、一つの値ではなく、取りうる値の幅とともに返す。幅は、「これより低い確率が 10%」の値のような分位点で表す。
この例から言えること
- 共変量を使う意味は、目的変数の過去に現れていない予定(稼働台数・祝日・計画停止)を予測に入れられることにある。
- 共変量には、将来もわかるもの(生産計画)と、今までしかわからないもの(外気温の実測)があり、二つのモデルとも両者を分けて受け取る。
- 渡す情報が同じなので、どちらを選ぶかは共変量の扱いでは決まらない。決め手は、重みを使える条件、入れられる履歴の長さ、性能の根拠である。
共変量を渡す効果は、系列をまとめる効果より大きい
作り手の評価では、共変量を使える課題で予測の改善が大きい。Chronos-2 の論文は、多変量の課題では単変量として扱う場合と比べた改善が小さく、共変量のある課題では改善が最も大きいと報告する1。時系列予測のベンチマーク fev-bench は、Chronos-2 と同じ AWS(Amazon Web Services)の研究者らが作ったもので、100 課題のうち 46 が共変量を含む。その論文によると、時間とともに変わる共変量を含む 42 課題で、Chronos-2 の SQL(Scaled Quantile Loss)の技能スコアは、共変量を渡すと 47.0%、渡さないと 40.9% だった3。技能スコアは、基準の予測と比べて誤差をどれだけ減らしたかの割合で、高いほど良い。どちらも Chronos-2 の作り手の側の評価である。
同じ fev-bench の論文は、関連する系列を群にまとめる効果は小さいとも報告する。多変量の 35 課題で、Chronos-2 を多変量として扱った場合と単変量として扱った場合の技能スコアは、55.0% と 54.4% だった3。作り手の評価で予測の誤差を大きく減らしたのは、別の系列をまとめることより、共変量を渡すことである。ただし評価の課題には将来もわかる共変量と過去だけわかる共変量が混じり、どちらが効いたかは分けて測られていない3。
二つの作り手は、目的変数と共変量を分けて受け取る形を採った
Chronos-2 は、Amazon Web Services の Ansari ほかが 2025-10-17 に arXiv の論文で発表したモデルである。基本モデルは 120M パラメータで、Hugging Face のモデルカードによると直近 30 日のダウンロードは 13,318,281 回である(2026-10-28 取得)14。GitHub のリポジトリは 6,197 スターを持つ5。論文は、既存の手法が単変量の予測に偏り、多変量や共変量が重要な実務に適用しにくいと、開発の動機を述べる1。Chronos-2 は、群の番号と将来の欄に値があるかから、各系列の役割を推定する1。
Timestral は Mistral AI が 2026-10-15 に出した最初の時系列基盤モデルの系列で、5M、28M、123M、209M のパラメータの四つの大きさがある6。リポジトリは同日に作られ、927 スターと 1 コミットである(2026-10-28 取得)2。Timestral の公開記事は、各入力系列に目的変数、過去だけ既知の共変量、将来も既知の共変量のどれかの役割を割り当てると述べる6。コードの API(Application Programming Interface)も、過去だけ既知の共変量をコンテキスト長の分、将来も既知の共変量をコンテキストと予測の長さの分として別々に受け取る2。コンテキスト長とは、モデルが一度に入力として読める履歴の時間刻みの数である。
学習で将来の値の漏れを止める場所は違うが、使う側の入力は変わらない
共変量を読むモデルを学習させるときは、目的変数の将来の値が予測に漏れないようにする必要がある。学習では、過去の記録のうち答えのわかっている区間を予測させるので、その区間の目的変数が入力から読めると、答えを見て予測することになる。二つのモデルは、この漏れを止める場所が違う。
Chronos-2 は、予測させる区間の目的変数を入力から外す。入力の将来側では、将来も既知の共変量だけが値を持ち、目的変数と過去だけ既知の共変量の欄は欠損値になる1。将来の値が入力に無いので、群の中の行は互いを双方向に参照してよい。コードは、二つの系列の群の番号が同じときだけ参照を許す5。
Timestral は、目的変数の全履歴を入力に残して学習する。Mistral は、予測させる区間を隠すと、その区間の観測値を、さらに後の時点を予測するときの手がかりに使えなくなると述べる。そこで、すべての観測値を、予測の答えとしても手がかりとしても使う設計を選んだ6。そのぶん、漏れはモデルの中で止める。予測を出すために学習で用意したトークン(入力の単位)は、予測させる区間より前の履歴だけを読む67。さらに、入力のどの位置がどの位置を参照してよいかを決める表(注意マスク)で、共変量の行が目的変数の行を参照することを禁じる7。理由はこうである。将来も既知の共変量の行は、将来の位置も参照する。その行が目的変数の行も参照できると、目的変数の将来の値が共変量の行に入り、そこから目的変数の予測に届いてしまう7。
どちらの止め方でも、使う側が予測のときに渡す値は同じである。止め方の違いだけからは、どちらの予測が良いかは言えない。
重みのライセンスと履歴の長さが選択を分ける
重みのライセンスは、売上の大きい会社にとって Timestral の制約になる。Chronos-2 の重みは Apache-2.0 で公開される4。Timestral のコードは Apache 2.0 だが、重みは別に Modified MIT ライセンスで公開される2。このライセンスは、利用する会社(または雇用主)の前月の連結月次売上が 2,000 万ドルを超えると、権利の行使を認めない。商用ライセンスは Mistral に申請でき、与えるかは Mistral の裁量である。ライセンスは、Mistral のホスト型サービスを通して使う方法も挙げる8。売上がこの額を超える会社が重みを自社で動かすなら、商用ライセンスを得ない限り、二つのうち選べるのは Chronos-2 である。この制限は、Mistral が条件を変えない限り続く。
コンテキスト長は、長い履歴を入れたい読者にとって Timestral の利点になる。Chronos-2 の最大のコンテキスト長は 時間刻み、最大の予測長は である4。Timestral のコンテキスト長は 時間刻みで、上限を超えると新しい側の 時間刻みだけを使う2。15 分刻みでは、 分で約 85 日、 分で約 341 日である。15 分刻みの電力負荷で、約 85 日を超え約 341 日までの履歴を入れたいなら Timestral が合い、約 85 日までで足りるなら長さでは差が出ない。予測が長いときは、Timestral は区間ごとに予測し、中央値をコンテキストへ戻す2。
項目の違う系列を一つの入力にまとめたい読者には、使い方が文書で示された Chronos-2 が合う。モデルカードは、項目をまたいだ予測(クロスラーニング)に対応し、群の中の系列を互いに参照させて、関連する系列と共変量を同じ入力の中で参照して予測すると述べる4。Timestral も、一つの系列の変量を同時に予測する2。公開記事は、ポンプの振動、温度、圧力のような関連する系列を同時に扱う例を示す6。関連する系列を一つの系列の変量として並べれば、Timestral でも互いを参照させられる。項目の違う系列を群にまとめる使い方を文書で示すのは、Chronos-2 である4。
Timestral の順位と共変量での効果は、技術報告が出るまで確かめられない
Timestral の順位は、作り手自身の報告にとどまる。Mistral は、209M のモデルが公開ベンチマーク三つで、事前学習済みのゼロショットのモデルの中で首位だと述べ、28M のモデルは約 4 倍大きい Chronos-2 を二つのベンチマーク(GIFT-Eval と TIME)で上回ると述べる6。三つのうち TIME は共変量を含まない2。fev-bench は 100 課題のうち 46 が共変量を含み3、作り手の図では 28M の技能スコアが 48.42%、Chronos-2 が 47.28% である6。リーダーボードへの提出は GIFT-Eval と TIME についてで、全結果を載せる技術報告は後から出る6。したがって順位は、技術報告とリーダーボードが出るまで確定しない。Chronos-2 にも作り手の技術報告があり、公開から約 1 年の利用がある14。
二つのモデルとも、共変量を使う能力は主に合成データで学んでいる。Timestral の学習データは大半が合成データで6、Chronos-2 の論文も、単変量を超える能力はすべて合成データに依存すると述べる1。共変量で予測が改善するという評価は Chronos-2 の作り手によるもので、Timestral が共変量で得る改善を測った結果は、技術報告が出るまで無い。
出典8件
-
Ansari ほか「Chronos-2: From Univariate to Universal Forecasting」arXiv:2510.15821, 2025. https://arxiv.org/abs/2510.15821 — 将来の入力を欠損値にする設計、グループアテンション、共変量に対応する既存モデル、合成データへの依存と多変量の改善の小ささ。 ↩ ↩2 ↩3 ↩4 ↩5 ↩6 ↩7 ↩8 ↩9
-
mistralai/timestral README(2026-10-28 取得). https://github.com/mistralai/timestral — 重みとコードのライセンスの別、共変量の入力形式、コンテキスト長の上限、リポジトリの現状。 ↩ ↩2 ↩3 ↩4 ↩5 ↩6 ↩7 ↩8
-
Shchur ほか「fev-bench: A Realistic Benchmark for Time Series Forecasting」arXiv:2509.26468, 2025. https://arxiv.org/abs/2509.26468 — 100 課題のうち 46 が共変量を含む構成、多変量として扱う改善の小ささと、共変量の効果の大きさ。 ↩ ↩2 ↩3 ↩4
-
amazon/chronos-2 モデルカード, Hugging Face(2026-10-28 取得). https://huggingface.co/amazon/chronos-2 — Apache-2.0、コンテキスト長と予測長の上限、項目をまたいだ学習、ダウンロード数。 ↩ ↩2 ↩3 ↩4 ↩5 ↩6
-
amazon-science/chronos-forecasting「model.py」(2026-10-28 取得). https://github.com/amazon-science/chronos-forecasting/blob/main/src/chronos/chronos2/model.py — 群の番号が同じ行と列で真になる対称なマスク。 ↩ ↩2
-
Mistral AI「Timestral」公式ブログ, 2026. https://mistral.ai/news/timestral — 役割の宣言、漏れの防ぎ方、全履歴を残す理由、自己報告の順位(fev-bench の図を含む)と待機中の技術報告。 ↩ ↩2 ↩3 ↩4 ↩5 ↩6 ↩7 ↩8 ↩9
-
mistralai/timestral「masks.py」(2026-10-28 取得). https://github.com/mistralai/timestral/blob/main/src/timestral/masks.py — 共変量から目的変数、将来も既知の行から因果的な行への読みの禁止と、同じ系列の行どうしの読み。 ↩ ↩2 ↩3
-
Timestral-209M「LICENSE」Hugging Face. https://huggingface.co/mistralai/Timestral-209M/blob/main/LICENSE — 前月の連結月次売上が 2,000 万ドルを超える会社への利用制限と、裁量で与えられる商用ライセンスとホスト型サービスの道。 ↩
この記事はAIを使用して執筆されました。内容には誤りが含まれる可能性があります。事実や数字の出典は脚注から確かめられます。