AI・信頼性・評価

モデル崩壊とは？合成データで崩れる条件と、崩れにくい使い方

2026/7/16 （更新: 2026/10/11）

🤖 AIを使用して執筆

データの壁と、合成データという誘惑

大規模モデルは、web上の人間が書いた文章を食べて育ってきた。だが、質の高い公開テキストの供給は有限で、いまの傾向が続けば2026〜2032年には公開された人間の文章の在庫と同規模のデータで訓練することになる、という推計がある¹。そこで誘惑が生まれる。モデル自身に大量のデータを生成させ、それで次のモデルを訓練する。理屈のうえでは、データは無限に湧く。

問題は、その「自家中毒」が何を引き起こすかだ。2024年前後、この問いに正面から答える研究が両方向から出た。片方は「壊れる」と言い、もう片方は「壊し方しだいだ」と言う。両者は矛盾していない。両者では条件が違う。

実データを置き換えて再帰訓練すると、尾が消え、自信満々に誤る

崩壊を最も鋭く示したのが、Shumailov らの Nature 論文だ²。彼らは VAE・混合ガウス・LLM のいずれでも、モデル生成データを無差別に使って再帰的に訓練すると不可逆な欠陥が生じ、元データ分布の尾が消えることを示した。まれな事象・少数派の表現がまず失われ、世代を重ねるほど出力は平均的で退屈な中心へ縮む。

2025年の研究は、この崩壊が知識の層でも起きると突く³。Keisha らの「知識崩壊」は三段階で進み、表面の流暢さは保たれるのに、事実の正確さが劣化する。モデルは自然で説得力のある口ぶりのまま、中身を間違える。この状態が「自信満々に誤る（confidently wrong）」である。彼らが警告するのは、流暢さを見る従来の品質指標では、この知識の侵食を検出できないことだ。本稿の見立てでは、これはモデルが「わからない」と言えずに答えを出してしまう失敗と地続きで、合成データの反復がそれを増幅しうる。しかも彼らが実データを75%・50%残した条件でも、崩壊は消えず時期が遅れるだけだった。

実データに貯め込み・混ぜれば、言語モデルでは崩壊しない

だが崩壊は宿命ではない。Gerstgrasser らは、崩壊の条件を切り分けた⁴。各世代の合成データで実データを「置き換える」と崩壊に向かうが、合成データを元の実データに「貯め込む（accumulate）」と、テスト誤差の発散は起きない。モデルの大きさ・アーキテクチャ・ハイパーパラメータを変えても、この結果は保たれたという。ただし同論文が確かめたのは自らが扱った規模の範囲で、フロンティア級の事前学習では検証していない（COLM 2024 採択）。線形モデルの理論解析でも、データを累積すればテスト誤差は反復回数に依らない有限の上限に収まる。累積が効いたのはデータが増えたからではないか、という疑いにも、同論文は対照を置いている。累積と同じ量まで純合成データを増やして置き換えた条件でも、誤差は増えた。量を増やすと増え方は緩やかになったが（GPT-2 9M の4反復目で、通常の置き換えの +0.58 に対し +0.36）、止まりはしなかった。誤差が増えなかったのは、実データを残した累積のほうである（同 −0.07）。

もっとも、画像では話が違うと彼ら自身が書いている。CelebA で VAE を世代ごとに訓練した実験では、累積は崩壊を「大幅に遅らせる」にとどまり、テスト誤差は反復とともに緩やかに増え続けた。生成された顔は性別のような主要な変動軸こそ保ったが、眼鏡や装飾のような、分布の副次的な軸にあたる細部は生成されなくなっている。累積が守ったのは主要な軸までで、まれな特徴まで保つ保証ではない。それでも、崩壊の速さを決めているのが合成データそのものではなく「実データを捨てる」運用であることは、言語・分子・画像の三系統で一貫していた。

より実務に近い証拠が、Kang らの系統的研究だ⁵。事前学習で、言い換え（rephrased）合成データを約1/3、実webを2/3で混ぜると、実webだけの場合と比べ、大きなデータ予算のもとで同じ検証損失に到達するまでが5〜10倍速くなったという。同じ要旨は、言い換え合成データだけで事前学習しても実webより速くはならないとも書いており、速さは混ぜたときにだけ出る。Kang らが確かめたのは1億〜30億パラメータのモデルを最大2000億トークンで訓練した範囲で、検証損失は The Pile の14ドメインと Wikitext-103 で測っている。見通せる範囲では劣化も出ていない（EMNLP 2025 採択）。最適な合成比率はモデルとデータ予算に依存し、経験的に約30%へ収束したという。ただし Kang ら自身、言い換え合成なら33%でも67%でも性能はほぼ同じだったと書いており、この約30%も条件で動く。総トークン量を21Bに固定して合成比率を10%から90%まで振った別の対照実験では、下流スコアは30%を超えても落ちず、60〜80%で頭打ちになった⁷。ただし彼らも、教科書調に生成したデータは実データを多く混ぜても下流ドメインの損失が高くなることが多く、とくにデータ予算が小さいときに目立ち、モデル崩壊と整合する劣化が出ると併記する。Kang らは、教科書調を33%に抑えた混合なら200億トークン以降で実webのみを上回り、67%では下回ったとも報告している。つまり、混ぜても、作り方と比率を間違えれば毒になる。

置き換えと貯め込みは、別の条件を測っている

AI不利側：Shumailov らが不可逆な崩壊を示したのは実データを置き換えて再帰する設定で、彼ら自身、各世代に元データの10%を残せば劣化はわずかだったと報告している（ただしその条件でも劣化はする）²⁴。言語での実験も OPT-125m の微調整で、規模は Gerstgrasser らの言語実験と変わらない。置き換えを前提にした結果を、そのまま合成データ一般の話に広げることはできない。AI有利側：Gerstgrasser の「貯め込めば安全」は、累積する分だけデータ量が膨らみ続ける前提で、無限には貯め込めない。Gerstgrasser らを含むグループの後続研究は、累積しつつ各世代に使うデータ量を一定に抑える条件も測った。劣化は累積より速いが置き換えより遅く、しばしば累積より高い水準で頭打ちになった⁸。同じ研究は、Gemma 2 2B の微調整で実データが1024件を超えると、実データの数を固定したまま合成データを足すほど、ほぼ必ず実データでの損失が上がったとも報告している⁸。Kang らの「5〜10倍速く」も言い換え合成・特定比率での話で、教科書調に生成すれば実データを多く混ぜても下流性能の損が出うるうえ、測ったのは1回きりの事前学習（n=1）で、世代を重ねる動態そのものではない⁵。どちらも、額面より狭く読むべきだ。

対立して見える二つの結果は、片方が置き換えを、もう片方が累積を測っている。崩壊を決めるのは「合成データを使うか否か」ではなく「どう使うか」である。

ただし、この整理で食い違いが片づくと考えるのは早い。Gerstgrasser ら自身、「モデル崩壊」という語が少なくとも四つの別現象に使われてきたと断っている。(0) テスト誤差の発散、(1) 少数モードへの収束、(2) 一様化、(3) 過去の合成データが持ち込んだ人工物の増幅の四つだ。だから「論文間の主張を比べるには注意が要る」と彼らは書く。彼らが扱ったのは (0) である⁴。置き換えれば尾が消え、貯め込めばテスト誤差の発散は避けられた。だが誤差が発散しないことと、尾が残ることは同じではない。現に、1B モデル 1 つを MMLU の 5 科目で測った研究では、一定比率で混ぜるだけだと崩壊は遅れて訪れた³。長期的には、テスト誤差に出ない崩壊を避けられるかどうかが、まれな事象や少数派の表現（分布の尾）を守れているかで分かれる。尾を守るために選別を挟むことも、無条件の安全策ではない。Qiao らは、選別が手元の分布に近い標本を優先して残す結果、全体としては重要な尾の峰を刈り、崩壊を防ぐ側から促す側に転じうると報告する。しかも彼らの定理は累積の設定を対象にしており、実データを残したままでも、偏った参照分布で選別を掛ければ分散はべき則で減衰する⁶。

そして、ここまでの結論はいずれも現段階の合成データの作り方での話だ。崩壊を示した研究も回避を示した研究も、「合成データ一般」ではなく特定の生成・混合のやり方を測っている。実際、生成の仕方（言い換えか教科書調か）や比率しだいで結果は大きく変わり⁵、ドメイン特化の合成訓練は崩壊への耐性を高めうる³。つまりこれらは、合成データが原理的に不可能だという証明ではなく、いまの作り方での限界を写したものだ。反対側には、合成データが訓練データ全体の1%でも、データを増やしても性能が伸びなくなる「強いモデル崩壊」を教師あり回帰の設定で示した理論研究もある⁹。この境界がどこまで動くかは、ここで見た研究の範囲では答えが出ていない。Shumailov らは置き換え再帰での劣化を「不可逆」と呼んでおり²、生成手法が進めば「置き換え」に近い運用でも崩壊を抑えられるのかは、今後の実験待ちだ。現時点で安全側に振れる答えが「貯め込み・混ぜ・偏らない基準で検証する」だ、というのが正確な言い方になる。

この記事はAIを使用して執筆されました。内容には誤りが含まれる可能性があります。事実や数字の出典は脚注から確かめられます。