マテリアルズインフォマティクス・材料
圧電テンソルの機械学習:対称性で決まるゼロをモデルは守れるか
- 圧電テンソル
- 機械学習ポテンシャル
- マテリアルズインフォマティクス
- NequIP
- Allegro
- MACE
- EqV2
- Orb-v3
- e3nn
- MACE-MP-0
- パリティ
- O(3)等変
- SO(3)等変
- 中心対称
- ノイマンの原理
- パリティ・ギャップ
- 鏡映
- 等変性
- データ拡張
- 誤検出
- 二酸化チタン
- 圧電効果
- 点群
- 反転操作
- 保存力
- 単精度
- 弾性テンソル
- 凍結バックボーン
- 群論
目次
結晶に力を加えると電圧が生じることがある。この現象を圧電効果といい、その大きさは圧電テンソルという量で表す。ただし、どの結晶でも生じるわけではない。たとえばルチル型の二酸化チタン(TiO₂)は圧電効果を示さない。測ると小さい値になる、という意味ではない。ルチル型TiO₂の圧電テンソルは厳密にゼロである。
ゼロになるかどうかは、測定の精度ではなく結晶の形が決める。ルチル型TiO₂は中心対称の結晶である。構造の中に反転の中心があり、その点を通して座標を反転させると元の構造に重なる。一方、圧電テンソルは反転操作のもとで符号が反転する量である。したがって中心対称の結晶では、圧電テンソルは自分自身の符号を反転させたものと等しくなければならない。この条件を満たす値はゼロだけである。物性テンソルは、結晶が持つ対称操作のもとで形を保たなければならない。この規則を結晶学ではノイマンの原理と呼ぶ。
したがって、中心対称の結晶に非ゼロの圧電応答を予測するモデルは、少し外れた答えを出しているのではない。物理的に起こりえない答えを出している。
機械学習で物性を予測するモデルがこのゼロを守れるかどうかは、精度の指標には表れない。訓練データがゼロという答えを十分に含んでいれば、モデルもゼロに近い値を返すようになる。この期待は自然である。だが、ゼロを訓練データから学ぶことと、モデルの設計上ゼロ以外を出せないこととは、別のことである。
本稿は、この違いを圧電テンソルで測った2026年8月19日公開のプレプリントを中心に取り上げる。
中心対称の結晶に対して、モデルが対称性の禁じる非ゼロの値を出せてしまうかどうかは、何が、いつ決めているのか。
速度のために対称性をモデルから外す設計がある。しかし対称性が固定するゼロを破れるかどうかは、訓練を始める前の設計一つで決まる。決め手は、構造を鏡に映す操作(鏡映)に対して量の符号がどう変わるか、すなわちパリティを区別するラベルを、モデルの特徴量が持つかどうかである。 非等変のOrb-v3は10倍以上の高速化を報告し1、等変モデルとの性能の差は十分なエポック数のデータ拡張で埋まるとの報告もある2。代償は二つに分かれる。回転の誤差は学習で小さくなるが、Orb-v3の著者ら自身が拡張後も小さいがゼロではないと書く近似の誤差である1。パリティが固定するゼロは、ゼロを混ぜて訓練した実験でも約9割が閾値を超え、厳密なゼロには届かなかった3。設計を変えない限り消えない代償である。回転と鏡映の両方に出力が対応して変わるモデルをO(3)等変、回転にだけ対応して鏡映を区別しないモデルをSO(3)等変という。
二原子の直線で、ゼロを決めるのが設計か学習かを比べる
※ この節の数値は説明のための仮定で、測定値ではありません。
直線上に原子を二つ置き、反転すると符号が反転する1成分の量 p を予測するとする。圧電テンソルと同じ性質を、成分一つに縮めた量である。構造を x → −x と反転すると、p は −p になる。原子を −1 と +1 に置いた構造は、反転しても元の構造に重なる。だからこの構造の p は自分の符号を反転させたものと等しく、ゼロしかありえない。原子を −2 と +2 に置いた構造も同じである。
パリティを区別するモデルとして、p = w ×(原子の座標の和)を考える。座標の和は反転で符号が反転するので、出力も一緒に反転する。−1 と +1、−2 と +2 の構造では座標の和がゼロなので、w がいくつであっても出力はゼロになる。−1 と +2 の構造の本物の値が 0.5 なら、w = 0.5 でこの値にも合う。
鏡映を区別しないモデルとして、p = w ×(原子の座標の絶対値の和)+ b を考える。絶対値は反転しても変わらないので、このモデルは構造とその反転像に同じ値を返す。−1 と +2 の構造で 0.5、−1 と +1 の構造でゼロを教えて解くと、w = 0.5、b = −1 になり、教えた二つにはぴったり合う。しかし −2 と +2 の構造には 0.5 × 4 − 1 = 1.0 を返す。ゼロのはずの構造で、本物の値の倍の大きさである。−1 と +2 を反転した −2 と +1 の構造には、−0.5 を返すべきところで +0.5 を返す。−2 と +2 にもゼロを教えると w = 0、b = 0 しか解が無く、そのときモデルは本物の 0.5 も出せなくなる。
閾値 0.01 を物差しにすると、二つのモデルの差は次のようにまとまる。
- パリティを区別するモデルは、中心対称の構造に、重みの値によらずゼロを返す。学習を始める前からそう決まっている。
- 鏡映を区別しないモデルは、教えたゼロには合わせられても、教えていない中心対称の構造では閾値を大きく超えうる。構造とその鏡映像に同じ値を返すので、符号が反転するはずの二つの値を同時には当てられない。
回転の等変性を外して速度を得る設計
分子や結晶を扱う機械学習ポテンシャルの多くは、回転についての等変性をモデルの構造そのものに組み込んで作られてきた。この設計は精度で有利になりやすい一方、計算コストを押し上げる。だから、この等変性をあえて外し、データからの学習に任せるという設計判断も現れている。
Orb-v3はその一例である。著者らは、非等変で非保存力(力をエネルギーの微分として定義しない)の構成でも「物理的な性質を正確にモデル化できる」と述べ、性能と速度のトレードオフの前線を広げたと主張する1。ここでいう物理的な性質には、ポテンシャルエネルギー面の高階微分を要するものも含む。レイテンシを10倍以上、メモリ使用量を8倍以上削減しながら、多くの評価でほぼ最先端の性能を維持したという1。Orb-v3の主張は、著者ら自身が走らせたベンチマークにもとづく。なおOrb-v3は、力をエネルギーの微分として計算するconservative版と、しないdirect版の両方を公開しており、著者らはどちらを選ぶかはワークフロー次第だと書いている1。同じ報告は、外した対称性の誤差を測ってもいる。著者らはエネルギー予測の回転不変性を定量化して訓練中に正則化するequigradを導入し、回転不変性が約5倍改善したと書く1。付録では、結晶の対称性を仮定するPhonopyの変位生成が非不変のモデルでは数学的に無効になると断り、対称性による縮約を使うと熱伝導率の誤差指標が0.222から0.868へ悪化し、equigradで0.365まで戻ると印字している1。逃げ道が無い場面では、構造的に制約したモデルを勧めるとも書く1。
より一般の設定でも、回転の対称性は学習で埋め合わせられるという報告がある。剛体どうしの相互作用を汎用のTransformerで学習させた研究は、モデル規模・学習ステップ数・データ量を振ったうえで、等変性はデータ効率を上げる一方、「十分なエポック数があれば、データ拡張を使った非等変モデルの訓練でこの差を埋められる」と報告する(TMLR掲載)2。なお、この差を埋めたデータ拡張が掛けたのは並進と重力軸まわりの回転だけで、鏡映は含まない2。計算予算を同じだけ振った比較では、検証したどの予算でも等変モデルが非等変モデルを上回る2。ただしここでの計算予算は理想化したFLOPの数え上げで、原典は実時間と一対一には対応しないと自ら断っている2。モデル規模と学習時間への予算の配り方の最適点は、等変モデルと非等変モデルとで違うとも書かれている2。
Orb-v3の著者らは結論で、保存性と等変性が汎用ポテンシャルの厳格な前提だという枠組みを反証したと書いている1。Orb-v3とBrehmerらの比較が示すのは、等変性を外すという選択が理にかなう場面が現に存在するということだ。回転についての対称性の誤りは、精度の指標に現れる近似の誤差であり、速度と引き換えに許容できる場合がある。問題は、対称性の誤りを近似の誤差として扱うこの考え方が、どこまで通用するかである。
対称性が強制するゼロは、回転の話とは別の問題
2026年8月19日に公開されたプレプリントは、対称性の誤りを近似の誤差として扱う考え方が通用しない場合があると指摘する3。対象は圧電テンソルで、判定に使うのはノイマンの原理である。反転対称の中心を持つ結晶、すなわち中心対称の結晶では、圧電応答は反転操作のもとで自分自身の符号を反転させたものと一致しなければならず、それを満たす値はゼロしかない。
ノイマンの原理でゼロかどうかを判定するには、回転についての情報だけでは足りない。反転操作は鏡映とは別の操作だが、原典は両者を同じ種類の操作として並べて挙げる。鏡映とは、鏡に映したときの変化をいう。反転操作は、回転をどれだけ組み合わせても再現できない。モデルの特徴量が回転にしか対応しないSO(3)等変で作られている場合、鏡映によって符号が反転するという性質そのものを表現する手段を持たない。特徴量の側でこの符号反転を表現できるのは、パリティのラベルまで特徴量に持たせるO(3)等変の設計だけである。出力を反転について反対称化する処理を外から足せば、中心対称の結晶では予測がゼロになる。ただし原典のv1は、この処理は原子の並べ替えと並進に対して不変なモデルなら、パリティのラベルの有無によらずゼロを返させるので、ゼロが出ても制約を取り戻した証拠にはならないと書く3。推論は2倍になり、標的のパリティを前もって知っている必要もある3。2026年9月16日の改訂版(v2)は題名を変え、この処理をO(3)の表現設計と並ぶ、厳密なゼロのもう一つの経路として位置づけている3。
原典は次のように主張する。回転についての対称性をモデルにどこまで組み込むかという議論は、これまで近似の誤差の大小として扱われてきた。だが一部の制約は厳密で、対称性はある種の物性テンソルを厳密にゼロへ追い込み、そこでの非ゼロ予測は不正確なのではなく物理的に起こりえない3。モデルがこの種の予測をできてしまうかどうかは、訓練の結果ではなく、訓練前に特徴量がパリティのラベルを持つかどうかという、一つの、めったに報告されない設計上のビットで決まる、と原典は書く3。原典はこの基準を「パリティ・ギャップ」と呼び、群論だけから、どの物性・どの結晶がこの制約に実際に晒されているかを計算する3。
6桁の差は、精度と引き換えに買ったものではない
NequIP・Allegro・MACEという3つの核それぞれにO(3)アームとSO(3)アームを用意し、パリティの有無以外は同じ条件に揃える。加えてEqV2(SO(3)アームしか存在しない核)も含め、2,000種の中心対称結晶で圧電テンソルを予測させ、閾値0.01 C m⁻²と比べる。この閾値は訓練データにある本物の圧電テンソルの経験分布から較正した値で、著者らが置いたものではない3。以下の数字は、対称性を理想化した座標での結果である。生の座標での挙動は後述する。O(3)アームは18,000回の結晶ごとの実行のうち、一件もこの閾値を超えなかった(内訳は3核×2,000結晶×3訓練seed=18,000で、本稿の再構成)。中央値は単精度の演算が残す誤差の水準だった。NequIPで3.19×10⁻⁷ C m⁻²、Allegroで3.84×10⁻⁷、MACEで2.76×10⁻⁶である。最大の単一予測でも閾値の7.6分の1にとどまる。
SO(3)アームは結晶の90〜96%でこの閾値を超え、原典はこれを「誤検出(false flags)」と呼ぶ(2,000件のうち166件は m3̄m で、パリティが無くても回転だけでゼロが強制される。それを除いた1,834件に限れば、3核のSO(3)アームは97.6〜99.2%で閾値を超える3)。EqV2にはO(3)アーム自体が存在せず、この範囲の上端に位置する。違反量の予測値の中央値は、訓練データに含まれる本物の圧電応答の大きさと同じ桁にある。たとえばNequIPのSO(3)アーム(拡張なし)では、2,000結晶全体での違反の中央値が6.66×10⁻¹ C m⁻²である。SO(3)アームは、数値誤差ではなく本物のサイズの値を出している。O(3)アームの中央値(3×10⁻⁷〜3×10⁻⁶ C m⁻²)と比べると、両者の差は6桁である。
厳密性は精度と引き換えではない。圧電応答が本当にゼロでない結晶、つまり非中心対称の分割での予測誤差は、NequIPでO(3)アーム0.2083に対しSO(3)アーム(拡張なし)0.2405、Allegroで0.2140対0.2589、MACEで0.2222対0.2567である(単位はC m⁻²)。いずれもO(3)アームのほうが低い、つまり良い。差はseed間のばらつきに対して3.4〜4.6σにあたる3。原典は、ゼロを混ぜた拡張がどの核でも回帰誤差を改善したとも書き、それを「不可能な値を出し続ける、より良い回帰器」と呼んでいる3。原典は限界として、O(3)アーム3種がいずれもe3nn実装であり、訓練後の精度比較に実装由来の寄与が混じる可能性を排除できないと自ら断っている3。ただし同じ段落は、非e3nn実装でも構造的なゼロ自体は無作為初期化の対照としては再現したが、訓練した第4のアームとしては再現していないと書いている3。しかもSO(3)アームはO(3)アームよりパラメータ数が0.2〜39.8%多い。対にしたアームどうしで見ると、容量で有利なほうが精度でも劣っている。測っている量は誤検出と同じ圧電テンソルで、違うのは分割のほうである。中心対称の結晶ではゼロを外さないかを見て、非中心対称の結晶では本物の値をどれだけ当てられるかを見る。
この分離は、原典が閾値を10⁻⁴から10⁰ C m⁻²まで4桁振っても崩れない。読み出しを平均プーリングに替え、閾値もその分布から較正し直して訓練をやり直しても、O(3)側の誤検出率は、この理想化した座標ではすべての核・すべてのseedで正確にゼロのままだが、SO(3)側の誤検出率は平均0.65ポイント動く。原典はこれをseed間のばらつきより小さい値だと書き添えている。
同じ形の所見が、別の厳密な制約でも独立に報告されている。保存力の制約、つまり力をエネルギーの微分として定義するという制約を外すと計算は速くなるが、構造最適化の収束が定まらなくなり、種類の異なる分子動力学で不安定化が起きると、ICML 2025でオーラル発表されたBigiらの監査は報告する4。著者らは「エネルギー保存の欠如を監視し補正することの難しさを踏まえると、直接予測した力は細心の注意を払って使うべきだ」と書き、まず直接予測した力で事前学習し、そのあと逆伝播で微調整するという折衷案を勧める4。評価時には両方の力を併用すれば、非物理的な効果を避けながら直接力の計算効率をほぼそのまま享受できる、とも書いている4。Bigiら自身がこの区別を書いている。回転対称性は推論時に監視・補正でき、データ拡張でも学べるが、非保存性の評価にはヤコビアンの明示的な計算が要る。これが著者らの言い分である4。Orb-v3の著者らはBigiらの監査を名指しで引き、だからこそ保存版と非保存版の両方を公開したと書いている1。制約の中身はパリティとは別である。エネルギー保存であって鏡映対称ではない。したがってこれは同じ現象の再現ではなく、別の厳密な制約が失われたときに同じ形の失敗が起きるという、独立した収束の証拠として引いておく。
ゼロを訓練データに入れても直らない、そして万能の判定でもない
訓練データにゼロという答えを混ぜれば直るのではないか、という直感は自然である。パリティの論文はこれも測っている。SO(3)アームにゼロを明示的に教えるため、別に用意した1,000種の中心対称結晶に厳密なゼロをラベルとして与え、訓練セットへ加えて再学習した「拡張あり」のアームを作った。結果、違反の大きさは縮む。NequIPでは、拡張セットと同じ空間群に属する評価用の結晶(原典の「seen」分割)の中央値が8.26×10⁻¹から4.49×10⁻¹へ下がる。しかし誤検出の割合はほとんど動かない。明示的なゼロを教えた当の1,016件(注入した1,000件と、もともと訓練セットにあった実結晶16件)に対してすら、拡張ありのアームはまだ閾値を超えた値を返す。割合はNequIPで89.5%、Allegroで89.9%、MACEで89.6%、EqV2で92.2%である。原典は四核をまとめて0.895から0.922だと書いている3。教師データとしてゼロを見せても、鏡映を区別できない特徴量からは、鏡映で符号が反転するはずの応答を表現しようがない。量を小さくすることはできても、その量をゼロに固定する仕組みがモデルの側に無いためである。原典は一文でこう書いている。「明示的なゼロで訓練しても厳密性は取り戻せない」3。ここでいう厳密性は精度とは別の概念である。精度は近づける対象だが、厳密性は満たすか満たさないかしかない。
同じ理由が、既存の汎用モデルを土台に使う場面にも及ぶ。原典によれば、凍結した汎用ポテンシャルの上に新しい物性を出す読み出しヘッドだけを載せて訓練する構成が増えている3。この構成を、著者らは凍結バックボーンで実際に測っている。パリティのラベルを持つMACE-MP-0の凍結特徴に圧電ヘッドを載せると、違反はすべての結晶とseedで厳密にゼロになった。全次数を偶と宣言するeSEN-30M-OAMでは、同じ構成が本編と同じ割合で誤検出した3。土台がSO(3)なら、その上に載せたヘッドをどれだけ訓練しても、鏡映を区別する能力は生まれない。
では、手元のモデルがO(3)等変とSO(3)等変のどちらなのかは、どうやって確かめるのか。原典が示す手続きは単純で、初期化直後のモデルに、ある構造とその鏡映像を入力し、出力が符号を反転させて一致するかどうかを見る。一回の鏡映操作で、ラベルは数秒で検証できる3。訓練を待つ必要はない。
ただし、パリティの有無による差がどの結晶にもどの物性にも現れるわけではない。原典は対照実験で切り分けている。双極子は圧電テンソルと同じくパリティ奇だが、階数1ではギャップがゼロか小さく、QM9の10,831分子のうち制約が働くのは7分子(約0.065%)だけであるため、O(3)アームとSO(3)アームの成績が一致する3。分けているのは対象のパリティではなく、評価する結晶でギャップが非ゼロかどうかである3。
制約の働かない標的での対照もある。パリティ偶の弾性テンソルでは、試験分割での予測誤差の差が効果量にして0.04〜0.74にとどまる。圧電テンソルでは3.43〜4.57である3。原典は弾性側のこの差について、seed3つでは解像できないとして有意性を主張しないと断っている3。
原典自身、O(3)アームも生の座標のうえでは完全に無欠ではないと認めている。もっとも厳しい閾値(0.0001 C m⁻²)では、O(3)アームの誤検出率は2.45〜2.82%まで上がる。原典はこれをモデルの誤りではなく、データそのものの読みだと説明する。2,000種の生の結晶構造は、選定に使った緩い許容誤差(10⁻³)では全件が中心対称と確認されるが、厳しい許容誤差(10⁻⁴。こちらは予測の閾値ではなく、構造を中心対称と判定するときの座標の許容誤差である)では1,956件(97.8%)、さらに厳しい10⁻⁵では1,869件(93.5%)しか中心対称と確認できない。つまりこの2.45〜2.82%は、データに実在するわずかな対称性の破れをモデルが正しく検出している分だ、というのが原典の読みである3。ただし運用閾値の0.01 C m⁻²で見ると、生の座標でもO(3)側の誤検出率は0〜0.033%にとどまる3。
もう一つの限定は結晶の種類にかかわる。m3̄mという点群に属す結晶では、回転の対称性だけで既にこの応答がゼロに強制されており、パリティの有無は関係なくなる。原典はこの状態を「パリティ・ギャップが消える」と表現するが、そこでSO(3)アームが正しくなるのは、回転の等変性が厳密に成り立つモデルに限られる。パリティ・ギャップという基準は、群論だけから計算できる「どの物性がどの結晶で実際に晒されているか」を求めるためのものである3。原典が導くのは、この種のモデルを使うなという禁止ではなく、区別である。回転についての対称性の誤りは近似の誤差として扱えるが、ゼロを強制する種類の制約は近似ではない。原典が引くのはこの一線である3。ただし原典は、この一線のすぐ外側も測っている。ルチル型TiO₂を中心対称の構造から極性の向きに33段階ずらすと、SO(3)アームの予測には、O(3)アームが乗る演算誤差の床より5〜6桁高い偽の床が、歪みゼロの時点からあった3。小さな歪みの領域では、この床が本物の応答を覆い隠した3。
出典4件
-
Benjamin Rhodes ほか「Orb-v3: atomistic simulation at scale」arXiv, 2025(Orbital Materials の技術報告). https://arxiv.org/abs/2504.06231 — 非等変・非保存力の汎用ポテンシャルで、レイテンシ10倍以上・メモリ8倍以上の削減を報告。厳密なゼロは扱わない。 ↩ ↩2 ↩3 ↩4 ↩5 ↩6 ↩7 ↩8 ↩9 ↩10
-
Johann Brehmer ほか「Does equivariance matter at scale?」TMLR, 2025. https://arxiv.org/abs/2410.23179 https://openreview.net/forum?id=wilNute8Tn — 非等変モデルもデータ拡張と十分なエポックで等変モデルとの差を埋めると報告。その拡張は鏡映を含まない。 ↩ ↩2 ↩3 ↩4 ↩5 ↩6
-
Polat ほか「A single design choice determines whether machine learning models of materials make physically impossible predictions」arXiv, 2026. https://arxiv.org/abs/2608.18714v1 https://arxiv.org/abs/2608.18714v2 — 査読前のv1を引く。 ↩ ↩2 ↩3 ↩4 ↩5 ↩6 ↩7 ↩8 ↩9 ↩10 ↩11 ↩12 ↩13 ↩14 ↩15 ↩16 ↩17 ↩18 ↩19 ↩20 ↩21 ↩22 ↩23 ↩24 ↩25 ↩26 ↩27 ↩28 ↩29
-
Bigi ほか「The dark side of the forces: assessing non-conservative force models for atomistic machine learning」ICML 2025. https://arxiv.org/abs/2412.11569 https://proceedings.mlr.press/v267/bigi25a.html — 非保存力は構造最適化と分子動力学を不安定にすると報告。 ↩ ↩2 ↩3 ↩4
この記事はAIが執筆しています。内容には誤りが含まれる可能性があります。ご注意ください。