マテリアルズインフォマティクス・材料

汎用MLIPの微調整は、手法選びより土台と設定が効くと報告

2026/8/4

🤖 AIが執筆しています

要点： 汎用MLIP（多様な元素・化学系を横断して訓練され、個別系ごとの再学習なしに動くことを狙った機械学習ポテンシャル）を自分の系に合わせる段になると、まず費用が下がっている。水素／銅系では全データの20%（664構造）で、全データ学習と同水準の精度に達した例がある¹。LoRA（Low-Rank Adaptation、事前学習済みの重みを凍結したまま低ランクの小さな行列だけを学習して調整する手法）を使う枠組みでは、追加10構造ですでに明確な改善が出ると著者らは報告する²。ただし安さには代償がある。微調整は汎用性を削り、破局的忘却（微調整の前に得意だった領域の精度が落ちる現象）を招きうると複数の研究が指摘する³²。しかも手法選択が生む差は、土台モデルの質や学習率の設定より小さいという。7手法を比較した研究では、最適な学習率が手法間で一桁から二桁違うと報告された⁴。MOFでは微調整モデルの体積弾性率誤差3.16 GPaに対し、新しい汎用モデルは2.60 GPaで、微調整しない選択が有利になる場面もある⁵。

微調整はもう安い

MACE（元素横断で訓練された汎用MLIPの代表的な枠組みの一つ）を土台に、一部の層だけを更新対象に残し、残りを事前学習時の値に固定する凍結転移学習を試した研究がある。著者らは mace-freeze というパッチを公開し、任意のMACEモデルで層やパラメータ集合を凍結できるようにした¹。水素が銅表面に吸着する系では、全3,376構造のうち20%にあたる664構造で学習させたMACE-MP-f4が、全構造で一から学習したMACEモデルと同水準の精度に達した。10%のデータでも同じ精度水準に届き、更新するパラメータを絞ったぶん学習コストも下がった（著者らはその効果を限定的と書いている）という¹。Ti-Al-V合金でも、10〜20%のデータで調整した転移モデルが、全8,507構造で学習したACEモデルに匹敵する性能を示した¹。

LoRAを使う別の研究では、全rankのLoRAに重み減衰を組み合わせ、事前学習モデルへの強い帰納バイアスを保ちながら制約なしの微調整と同等の表現力を確保できると論じている。Equitrainと呼ぶこの枠組みでは、追加10構造という少なさでも明確な性能向上が得られたと著者らは報告する²。フォノン計算用の追加データ生成は、フルのフォノン計算に比べて計算量を32%、20個以上の変位スーパーセルを要する複雑な系では92%削減できたという²。

代償は汎用性だ

凍結転移学習の論文自身が、この手法の限界を明言している。狭い応用領域向けにモデルを作る代わりに、汎用モデルが本来持っていた転用可能性を減らしているという指摘だ。著者らは、素朴な微調整が破局的忘却につながりうることも認めている¹。

破局的忘却を扱った研究もある。事前学習済みの汎用MLIPを微調整すると、汎用MLIPの利点であるはずの汎化能力が損なわれると指摘する³。この研究は、経験再生（過去のデータを学習に混ぜ続ける手法）とEWC（Elastic Weight Consolidation、重要なパラメータの変化に制約をかけて古い知識を保つ手法）を組み合わせたreEWCという枠組みを提案した。硫化物系のリチウム固体電解質Li6PS5Cl（LPSC）を対象に微調整したところ、ポテンシャルエネルギー面の軟化とリチウム拡散係数の過大評価という既知の問題を改善しつつ汎化能力を保ち、化学的に離れた系への知識転移も可能にしたと報告されている³。この論文の要旨に、具体的な劣化率や誤差の数値はない。

LoRAを扱った研究も、同種の観察を報告している。転移学習（層の大部分を再学習する方式）は破局的忘却のために汎化能力を下げているように見える一方、LoRAによる手法は未知の相への汎化能力を最もよく保っていたという²。安さと引き換えに何を失うかは、手法によって違う。

手法の優劣より、土台と設定が効く

7つの微調整手法を横並びで比較した研究がある。扱うのはMACE系列のみで、CHGNetやSevenNetは対象に含まれない。素朴な微調整、層凍結の2種類、LoRA、複数ヘッドを使う再生（multihead replay）、擬似ラベルを使う再生、再生とLoRAの組み合わせという内訳だ。土台には MACE-MP0a-medium、MACE-OMat-0-small、MACE-OMat-0-medium、MACE-MH1（事前学習データはMPTrajとOMat24）を使っている⁴。

実務で最初に効くのは、手法ごとに最適な学習率が違う点だ。素朴な微調整ではおよそ10のマイナス3乗、LoRAではそれより一桁高いおよそ10のマイナス2乗、複数ヘッドの再生では最も低いおよそ10のマイナス4乗が最適だったという⁴。全手法に同じ学習率を当てた比較では、手法の性質と学習率の当て外れが分離できない。

土台モデルの質、E0（元素ごとの孤立原子の基準エネルギーで、ポテンシャルが総エネルギーをどこからの相対値として学習するかを決める初期値）の正しい初期化、そして適切に選ばれたハイパーパラメータの3つは前提条件であり、その効果は微調整手法そのものの選択が生む差を上回ることが多いと著者らは結論する⁴。E0の初期化を誤ったまま手法を比較しても、手法の優劣ではなく初期化の失敗を測ってしまう。

微調整しないほうが精度が出ることもある

MOFSimBench（金属有機構造体、MOFの分子モデリングにおいて汎用MLIPの性能を評価するベンチマーク）は、微調整をしない選択が有利になる具体例を示している⁵。構造最適化では、汎用モデルeSEN-OAMが体積偏差10%以内で成功する割合94%を達成し、古典力場のUFF4MOFは66%にとどまった⁵。

体積弾性率の平均絶対誤差でも、eSEN-OAMは2.60 GPaで、MOF向けに微調整されたMACE-MP-MOF0の3.16 GPaを下回った。熱容量では逆に微調整済みモデルが0.020 J/K/gでeSEN-OAMの0.024 J/K/gを上回り、これを下回ったのは別の汎用モデルorb-v3-omatの平均絶対誤差0.018 J/K/gが、微調整済みモデルの0.020 J/K/gより小さかった⁵。

著者らの結論は、より新しい汎用MLIPが同等以上の精度を出すようになり、MOFに特化して微調整したモデルの優位性が大きく縮んだというものだ⁵。あわせて、一般的なベンチマークだけでは領域固有のタスクを反映しきれない可能性も指摘している。

何を測り、何から決めるか

まず、自分が使おうとしている観測量に対して、現行の汎用MLIPをゼロショット（追加学習なし）で測る。微調整済みモデルとの差が既に縮んでいる可能性があるからだ⁵。この時点で十分な精度が出ているなら、微調整という選択肢自体が要らない。

微調整に進む場合は、全データの10〜20%程度の規模から始める。水素／銅系やTi-Al-V合金では、この規模で全データ学習と同水準の精度に達した実績がある¹。LoRA系の手法では追加10構造という規模でも効果が出ている²。大きなデータセットを最初から用意する必要はない。

手法を比較する前に、それぞれの手法で学習率を最適化する。素朴な微調整とLoRAと複数ヘッドの再生では、最適な学習率が一桁から二桁違う⁴。同じ学習率のまま手法だけを比べると、学習率の不一致を手法の優劣と誤読する。土台モデルの質とE0の初期化も、その手前で点検しておく。E0が正しく設定されていなければ、その上に載る手法の差は意味を持たない⁴。

微調整を終えたら、狙った観測量だけでなく、微調整前に汎用モデルが得意だった元の領域も測り直す。微調整は目的の観測量を改善しながら、他の領域の精度を落とす³²。この再測定を省くと、汎用性を失ったことに気づかないまま運用することになる。

この報告を、どう割り引くか

査読状況は揃っていない。凍結転移学習、reEWC、MOFSimBenchの3本はnpj Computational Materialsに掲載され査読を通っている。LoRAを扱ったEquitrainと、7手法を比較した研究はいずれもプレプリントで、査読前だ²⁴。

7手法を比較した研究はMACE系列のみを対象にしており、CHGNetやSevenNetは扱っていない。学習率が一桁から二桁違うという数値も、MACE以外の系列にそのまま当てはまるかは確認されていない⁴。MOFSimBenchの結果もMOFに限った測定であり、他の材料系に一般化できるとは限らない⁵。Equitrainの数値はフォノンと熱物性に関するもので、53種類の材料を対象にした結果だ²。

年代も一様ではない。凍結転移学習の論文は2025年2月の初版で、reEWCは2025年6月、MOFSimBenchは2025年12月、Equitrainは2026年4月、7手法の比較は2026年6月の公開である。最も新しい知見ほど検証の蓄積が薄く、今後の追試で数値が動く余地は他より大きい。

この記事はAIが執筆しています。内容には誤りが含まれる可能性があります。ご注意ください。