超伝導体のTcを機械学習で予測する論文を追試してみる


 【イントロ】

　近年深層学習を始めとしたAI技術の発展が著しく、基礎、応用研究の両面で活用が進められています[1]。
　特にAI技術の材料科学への適用はマテリアルインフォマティクスと呼ばれ、新規材料の発見や生産プロセスの最適化への活用が進められています[2]。
　機械学習の導入による新規材料の開発が求められている分野の1つが、超伝導体材料開発の分野です。より高温で超伝導状態となる物質の開発のため、日夜様々な研究がなされています[3]。
　そこで本記事では、機械学習により物質の超伝導転移温度(Tc)を予測することを試みた論文の追試を行った結果をまとめてみました。

【方法】

　参考にした論文は、Kam Hamidiehによる論文” A Data-Driven Statistical Model for Predicting the Critical Temperature of a Superconductor”[4]です。一番簡単そうだったことと、著者が使用したデータを公開していたことが、こちらの論文を参考にした理由です。
　この論文では、以下のデータ、手法を用いて、超伝導体の構成元素の物性値からそのTcを予測するモデルを提案しています。
データ：NIMSの超伝導データベース
手法：XGBoost
　使用している物性値は次のとおりです(図1)。
図1、使用された物性値


　また、物性値に以下の処理を加え、特徴量エンジニアリングを行っています(図2)。
図2、特徴量エンジニアリングの方法

　追試としては、Scikit-learnを用いた決定木による回帰モデルによる上記論文の再現を目的としました。使用したコードは、Githubリポジトリ[5]に保管しています。データセットは「data_source」ファイルに記載している論文の参考HPページ[4]に情報があります。
論文[4]の解説と実装もそちらのHPに記載されているのでご参考ください。

【結果】

　決定木を用いて予測したTcと実際のTcの関係は以下の通りです。R2値は0.85程度となり、比較的強い正の相関を示しています(図3)。
図3、決定木によるTcの予測値と実測値

一方、論文で示された値はR2＝0.92程度となっており、XGBoostの方が相関が強く出ていることが見て取れます(図4)。
図4、XGBoostによるTcの予測値と実測値

　決定木による分析で上位の重要な変数として出てきた変数は以下の通りです。図5からは、構成元素間の熱伝導率差と重み付き平均値が比較的重要な変数となっていることが読み取れます。この結果は、一部の重要度の順番は異なるものの、XGBoostによる結果と似た結果となっています(図6)。
図5、決定木による重要変数



図6、XGBoostによる重要変数

【考察】

　Tcを予測するためのパラメータとして、物質の構成元素の熱伝導率(の差)が重要と判断された原因を考えてみます。
　超伝導現象を説明するBCS理論によると、フォノン媒介による超伝導メカニズムにおいて、転移温度Tcは、以下の式で表されることが知られています[6]。
            Tc ~ T_θ ・ exp(-1/N(0)V)
ここでT_θはデバイ温度、N(0)はフェルミエネルギーでの状態密度、Vは相互作用の強さを示しています。一方で熱伝導率κは、低温では以下の式で表されます[7]。
            κ ～ (T/T_θ)＾2
ここで、Tは温度を示しています。
上の2式から、ある温度でのκとTcはT_θを介して相関していることがわかります。
このことが、Tcの予測に対してκが重要な変数として寄与する原因と考えられます。
また、この結果は、学習に用いたデータベースの多くの物質がフォノン媒介の超伝導体で有ることを示唆していると考えられます。

【まとめ】

　本記事では、機械学習を用いたTc予測の論文を追試することを試みました。XGBoostを用いた論文と同様の結果をScikit-learnの決定木を用いて再現することができました。
また、Tcの予測に構成元素の熱伝導率差が重要なことを確認し、そこからフォノン媒介の超伝導メカニズムによる超伝導体がデータベースの多くを占めていることを推察しました。
　しかし、機械学習するにはデータセットの準備って大変ですねということが、よくわかる今回の取り組みでした。データの整備って大切だな～。

【参考文献】

[3] Stanev, V., Oses, C., Kusne, A.G. et al. Machine learning modeling of superconducting critical temperature. npj Comput Mater 4, 29 (2018).
[4] Kam Hamidieh, arXiv:1803.10260
[6] BCS theory(Wiki)

コメント

コメントを投稿

このブログの人気の投稿

交代磁性があるのかないのかどっちなんだい！～RuO2の場合～

イメージ
 【イントロ】 博士「はぁ～交代じゃ、交代じゃ」 学生「どうしたんですか？キャバクラですか？」 博士「違う違う違う違う今日は違う！交代は交代でも、交代磁性のことを調べておったんじゃ」 学生「交代磁性？」 博士「なんじゃ知らんのか？交代磁性とは、強磁性と反強磁性に次ぐ第三の磁性として最近発見された、新しい磁気状態のことなんじゃ。」 学生「知ってますよ、 Šmejkal（流暢な発音）が提案 してるやつでしょ？強磁性体のようにバンド構造にスピン分裂が生じるけれど、反強磁性体のようにNetの磁性はゼロとなっている、副格子間の反強磁性状態と解釈できる磁性体のことですよね。」 博士「そうじゃ、Šmejkal（流暢な発音）達の提案が大きなきっかけとなった研究分野じゃな。なんじゃ、知っとるじゃないか」 学生「当然です。中学入試程度です。交代磁性って、 MnTe や CrSb 、それに RuO2 で確立された概念じゃないんですか？」 よく見ると(b)がない（ 引用元 ） 博士「 どこ中出身 じゃ。。。うむ、それらの物質でARPESが行われ、交代磁性の特徴の1つであるバンド構造の巨大なスピン分裂が観測されて Nature や PRB に報告されるなど研究が加熱しておる。」 学生「ならいいんじゃないですか？流行物質どんとこい。ビッグウェーブに乗って論文を量産するタイミングですよ。h-index稼ぎましょう」 博士「しかし、そのうちの１つ、RuO2が実は交代磁性体ではなく、非磁性体なのではないかという報告がなされ議論を呼んでおるのじゃ。」 学生「どういうことですか？？？RuO2は 異常ホール効果 が見えたり、 REX（共鳴弾性X線散乱） や 中性子散乱実験 で反強磁性秩序がすでに観測されたんじゃないんですか？？？陰謀ですか？？？？」 博士「それでは今回は、独ヴュルツブルク大学のPhilipp Keßler博士らによる論文、 Philipp Keßler, et al. , Absence of magnetic order in RuO2: insights from μSR spectroscopy and neutron diffraction , arXiv:2405.10820 を読んでいくかのお」 学生「Absence論文、盛り上がるやつですね」 【どんな実験したの？】
続きを読む

狂気！室温超伝導体は脳内にあった！！！

イメージ
 【イントロ】 博士「これはすごい・・・これはすごいぞ！！！」 学生「どうしたんですか？自分の愚かさのことですか？」 博士「そうではない！ワシは出会ったんじゃ！科学史上最高の論文に！」 学生「どんな論文ですか一体」 博士「なんと 室温超伝導体 が見つかったという話じゃ！」 学生「え！室温超伝導体といえば、室温で電気抵抗がゼロになる物質で、世界を支えるエレクトロニクスに不可避なエネルギーの散逸、発熱の問題を一気に解決し、 世界のエネルギー問題を救うキーテクノロジーになる物質 じゃないですか！」 博士「その通りじゃ！」 学生「気になってきました、早く教えて下さい、その論文！」 博士「うむ…驚くなよ、なんと、 生物の脳の中では超伝導状態が実現しておる のじゃ！！！」 学生「・・・」 博士「ふふふ、あまりの衝撃に言葉もないようじゃな。」 学生「あの」 博士「では、今回は、 P. Mikheenko, Possible Superconductivity in the Brain , Journal of Superconductivity and Novel Magnetism, 2018, No 5, p. 1121-1134 （ Arxiv版 ） を読んでいくぞい！」 学生「帰っていいですか？」 【論文誌がすごい！】 博士「まずは、この論文のなにが凄いかといえば、査読を通って論文誌に掲載されておるのじゃ」 学生「ほんとですよ、どうなってんですか」 博士「そして、掲載された Journal of Superconductivity and Novel Magnetismの2022年度のImpact Factor は1.8なんじゃ。これがどういうことかわかるか？」 学生「そ、それは日本の物理学会が発行するJournal of the Physical Society of Japan、いわゆる JPSJのImpact Factor 、1.7を超えています・・・！」 博士「そうじゃな、つまり論文誌としての影響力としてはJPSJよりも大きな雑誌に掲載された論文ということじゃ」 学生「JPSJもっとがんばってくださいよ」 博士「しかもこの論文は8回も引用されておる」 学生「 みなしPRL じゃないですか・・・」 博士「これだけで如何にこの論文が本物であるか納得してもらえ
続きを読む

まだ最小二乗法で消耗してるの？ ～Passing Bablok法について～

イメージ
【イントロ】 与えられたデータの傾向を見る、つまり回帰分析の一つとして、直線でフィッティングする方法が挙げられます。 ココで問題となるのが、「どうやって直線の傾き(と切片)を求めるか」という点です。 代表的な方法が最小二乗法です。目的の直線を $y=ax$ と仮定します。データ点$y$と求めたい直線との差の二乗を誤差として、すべての点に対する誤差の和を最小化する傾き$a$を求める方法です。 具体的には誤差の和を $E=\sum_{i=1}^{n}(y_i－ax_i)^2$ とすると、$a$について最小値が欲しいので、 $\frac{\partial E}{\partial a}=0$ となる$a$を求めれば良いです。整理すると、 $a=\frac{\sum_{i=1}^{n}(x_i－x_{average})(y_i－y_{average})}{\sum_{i=1}^{n}(x-x_{average})^2}$ となります。 　最小二乗法は直観的にもちょうどよい直線を見つけてくれそうで、最強の方法に見えます。しかし、 いくつかの課題 があります。まず一つが、外れ値に弱いという点です。えっちですね。つまり、ノイズ等の影響でデータ点の集合から大きくハズレた点が存在すると、その点に引きずられて傾き$a$が大きく変化してしまうという点です。 　また、別の問題として、最小二乗法は暗にデータが正規分布に従った誤差を持つことを仮定している点が挙げられます。今回最小化すべき誤差をデータ点と直線の差の二乗和として与えましたが、これはデータ点の周りに分散一定の誤差が正規分布している場合に導かれる最尤推定解と対応しています。詳細は PRML を参照。 さて、それではこうした最小二乗法の呪縛から解き放たれた、 回帰モデルは存在するでしょうか？そうしたモデルとしては 主成分分析 等があります 本記事では、そうした手法の中でもノンパラメトリック回帰モデルの一つである”Passing-Bablok法”について、 原論文 に従った解説とPythonでの実装に取り組みました。 【方法】 Passing-Bablok法はその名の通り、PassingとBablok(PB)により提案された、一次の比例関係を比較するノンパラメトリック回
続きを読む