タグ: 学習データ

モデル崩壊の引き金は合成データでなく『置き換え』運用 2026/7/16
『AI生成データでAIを訓練すると壊れる』モデル崩壊は本物だ。だが崩壊が最も速いのは実データを置き換えたときで、貯め込んで混ぜれば言語モデルでは悪化せず、実webのみより5〜10倍速く同じ検証損失に届いた報告もある。ただし貯め込みは十分条件ではない。