為了生產一個機器學習勢函數，你積累了大量的第一性原理數據，卻發現訓練模型的樣本效率不足，遷移性差。如此大的花費只能體驗“一次性”的機器學習分子動力學模擬 (MLMD)？這未免太貴了！

ChatGPT 等大規模語言模型的成功讓我們看到了“預訓練模型+少量新數據微調”解決這一難題的可能，勢函數生產能否參考此訓練策略進行？

                            圖 1｜預訓練模型+少量新數據微調範式

在此思路上，深勢科技以及北京科學智能研究院研究員張鐸、畢航睿等人和合作者在 arXiv 上預發表了《DPA-1: Pretraining of Attention-based Deep Potential Model for Molecular Simulation》文章。

通過對元素類型更優的編碼以及利用關鍵的注意力機制，極大提高了 Deep Potential 之前版本模型的容量和遷移能力，獲得了覆蓋元素週期表大多常見元素的大型預訓練模型 DPA-1。在不同數據集上的遷移學習結果表明，模型能大幅降低新場景對數據的依賴。

現在，你已經知道了 DPA-1 是一個基於注意力機制的 DP 模型，它有效地描述了原子間相互作用；訓練後，可以顯著減少下游任務的額外工作。你只需要通過一篇指南快速掌握訓練 DPA-1 勢函數(dpa_從頭訓)，以及如何基於一個已有的大模型，根據現有數據集進行微調(dpa_finetune)得到勢函數的方法。

Notebook 上手實踐

本期我們帶來了兩篇 Notebook：Notebook 1：DPA-1 遇見指南 | 固態電解質實戰之模型訓練篇Notebook 2：DP-SSE｜使用深度勢能分子動力學進行固態電解質研究實戰在第一篇 Notebook 中將結合 DPA-1 原論文 [2] 介紹 DPA-1 模型的研究背景、基本原理，並提供實用的代碼示例，幫助理解重要的參數含義；作者將以固態電解質為例，手把手帶你使用文獻 "J. Chem. Phys. 154, 094703 (2021)" [3] 中的訓練集，訓練 DPA-1 勢函數模型。在第二篇 Notebook 中，我們將結合分子動力學計算軟件 LAMMPS，使用訓練好的 DP 模型進行分子動力學模擬，復現文獻中的性質計算。現在點擊下方鏈接，和我們一起開啓勢函數探索的新篇章！

歡迎大家來 Notebook 案例廣場，獲取更多有意思的實踐～

感興趣的同學也可以點擊原文查看。