45種類の特性を対象に約140,000個の機械学習の予測モデルを開発し、訓練済みモデルライブラリXenonPy.MDL※1を公開しました。共同開発しているマテリアルズインフォマティクス(MI)のオープンソースプラットフォームです。XenonPyにはMIの様々なタスクを実行する機械学習アルゴリズムが実装されており、ユーザーはAPI※3経由でXenonPy.MDLの訓練済みモデルを再利用し、材料設計の様々なワークフローを構築できます。物性予測)において転移学習※4が持つ潜在的な予測性能を炙り出すことに成功しました。プロジェクト実施期間:2015-2019年度)の支援により実施されました。機械学習の他の応用領域に比べると材料研究のデータ量は圧倒的に少なく、これによりMIの適用領域が限定されています。原因として、次の三点が挙げられます:(a)データ取得の高コスト性、(b)研究者のニーズの多様性によるコモンデータベース創出の難しさ。(c)競合相手に対する情報秘匿の意識が高く、研究者にデータ公開に対するインセンティブが働きにくい。したがって、オープンデータベースの開発が中々進まず、さらに、先端領域に近づくにつれてスモールデータの傾向はより顕著になります。コミュニティ全体でコモンデータを創出しようという動向も極めて低調であり、少なくとも短中期的には大学のラボや一企業で生産可能なデータセットがMIの標準になることが予想されます。同グループは、転移学習の活用がMIの限界を突破する鍵になると考えてきました。転移学習は、あるタスクで訓練されたモデルを他のタスクに転用する解析手法です。大量の画像データを用いて動物の種類を判定するニューラルネットワークを訓練し、少数の花の画像データを用いて訓練済みモデルを改変することで、花の種類の分類器を構築します。動物の分類器は、訓練の過程で汎用的な画像特徴量を獲得していることが期待され、その一部は花の分類器にも転用できる可能性があります。その場合、花の分類器を一から学習するのではなく、少数のデータで動物の分類器を修正すれば十分かもしれません。ヒトの脳には、少ない経験でも合理的に予測を行うメカニズムが備わっています。小さい頃からピアノを学んでいた人は、音楽に関する一般的な知識を獲得しているため、他の楽器の演奏技術を比較的容易に習得できます。このような推論メカニズムを模倣したものが転移学習です。脳の情報処理との対比で言えば、多様且つ包括的な訓練済みモデル群を実装することは、多くの経験から記憶の集合体を獲得することに相当します。モデルの多様性が増すほど強力な転移学習を実現できる可能性が高まると同グループは考えています。物性予測)で転移学習が持つ驚異的な性能を実証しました。その中で最も特筆すべき点は、転移学習による外挿性の獲得の可能性が示されたことです。一般に革新的な物質の周辺にはデータは存在しません。機械学習は訓練データとテストデータの類似性に基づいて予測を行うため、周辺に訓練データが全く存在しない外挿領域では予測能力を失います。転移学習を巧みに適用することで、極めて少数の訓練データでも時には超外挿的ともいえる予測モデルを構築できる可能性が示されました(図1)。関連するタスクで広大な物質空間を包含する大量のデータを用いて事前学習を行います。すると、訓練されたモデルは広大な物質空間に適用可能な「特徴表現」を獲得します。このように訓練済みモデルが獲得した汎用的な特徴抽出器を目標ドメインに転移することで、目標タスクの訓練データが極めて少数だったとしても、転移されたモデルには既存データとは大きく異なるドメインの予測能力が備わっていることが明らかになりました。同グループは、転移学習の導入と戦略的活用がMIの究極の目標である「外挿的予測と発見」の実現に向けた大きな一歩になると考えています。材料デバイスの開発では、転移学習で個々の構成素子の物性予測モデルを統合することで、デバイス特性の少数データを用いて高精度なデバイス特性のモデルを構築できる可能性があります。MIの様々なタスクで驚異的な性能を発揮することが分かってきました。優れた研究者が過去の経験から大量且つ多様な知識体系を獲得しているのと同様に、転移学習の成功の鍵は超包括的で高品質な訓練済みモデルライブラリを実装することです。同グループは今後も継続的にXenonPy.MDLの開発を推進していきます。転移学習:あるタスクの学習モデルを他のタスクのモデルに改変するための方法論。通常の機械学習に比べると、転移学習はより少ないデータでモデルの予測性能を引き上げることができると言われている。