Nat. Mach. Intell. | 用欧几里得快速注意力学习全局原子表示

DRUGONE

在分子建模与材料模拟中，长程相互作用对于准确描述体系性质至关重要，但现有机器学习力场通常依赖局部信息，难以有效建模远距离相互作用。研究人员提出了一种新的注意力机制——欧几里得快速注意力（EFA），能够在保持线性计算复杂度的同时学习全局原子表示。该方法通过引入欧几里得旋转位置编码，将空间结构信息编码进注意力机制，并在保证物理对称性的前提下高效建模原子间关系。实验表明，EFA能够显著提升机器学习力场对长程相互作用的建模能力，在多种复杂化学体系中均优于传统方法。

分子体系的性质往往由局部和长程相互作用共同决定。例如，在蛋白质、材料或复杂分子中，远距离原子之间的相互作用虽然较弱，但对结构稳定性和动力学行为具有关键影响。传统的机器学习力场通常采用局部截断策略，仅考虑一定距离范围内的邻居原子，从而实现线性计算复杂度。然而，这种方法不可避免地忽略了远距离信息，导致预测误差。

自注意力机制能够捕捉全局关系，因此在理论上适合解决这一问题，但其计算复杂度通常随原子数平方增长，在大规模分子系统中难以应用。此外，将几何信息有效编码进线性复杂度的注意力机制仍然是一个挑战。

为此，研究人员提出EFA，通过设计适用于欧几里得空间的数据表示方式，在保持物理对称性的同时，实现对全局结构的高效建模。

图1｜本文核心概念与整体框架概览。

方法

EFA的核心在于将原子位置编码进注意力机制中。研究人员提出了一种欧几里得旋转位置编码方法，将原子间的相对位置信息转化为可用于注意力计算的表示，并通过在单位球面上的积分操作实现旋转不变性。

在模型结构上，EFA采用类似注意力的机制，将所有原子的信息汇聚到每一个原子节点上，从而实现全局信息交互。与传统自注意力不同，EFA通过重新设计计算方式，将复杂度降低至线性，使其能够应用于大规模分子系统。同时，该方法可以无缝集成到现有的图神经网络或机器学习力场中。

结果

理想化系统中的几何表达能力

研究人员首先在受控的理想化系统中比较EFA与传统消息传递网络的差异。结果表明，EFA能够在单次更新中捕捉全局结构信息，而传统方法需要多层传播才能获得类似效果。此外，在区分结构相似但几何不同的分子图时，EFA表现出更强的表达能力。

图2｜EFA的几何表达能力。

长程相互作用建模能力

在两粒子系统和多粒子体系中，研究人员分析了模型对长程势能的拟合能力。传统模型在超过截断距离后无法正确描述相互作用，而EFA能够在整个距离范围内准确预测势能变化。

在模拟类NaCl体系时，EFA显著降低了能量预测误差，并保持线性计算复杂度。即使在上万原子的系统中，模型仍然具有良好的扩展性。

图3｜消息传递模型（MP）的局限性与尺度分析。

化学反应与分子相互作用

研究人员进一步将EFA应用于实际化学问题，包括SN2反应和分子二聚体相互作用。结果表明，传统模型无法正确预测反应路径的远距离行为，而引入EFA后，模型能够准确重构整个势能曲线。

在分子二聚体体系中，EFA模型不仅能够捕捉不同类型的非共价相互作用，还在未见过的体系上表现出良好的泛化能力，说明其学习到了普适的相互作用规律。

图4｜EFA在化学反应与分子二聚体体系中的应用。

非局域电子效应与复杂体系

在涉及电子离域效应的复杂体系中，传统模型通常难以正确描述能量变化。研究人员以累烯分子为例，发现只有引入EFA并结合方向性特征后，模型才能准确预测能量随构象变化的关系。

此外，在分子动力学模拟中，EFA模型能够生成更符合物理规律的轨迹，而传统模型则会产生错误的动力学行为。

图5｜EFA在电子离域效应建模中的表现。

讨论

研究结果表明，EFA为机器学习力场提供了一种高效建模长程相互作用的新途径。与传统依赖局部信息的方法相比，该方法能够直接学习全局原子表示，从而显著提高预测精度。

EFA的一个重要优势在于其通用性，可以方便地集成到现有模型中，并适用于多种分子和材料体系。同时，其线性计算复杂度使其具备处理大规模系统的潜力。

研究人员指出，尽管EFA在长程相互作用建模方面表现优异，但对于强局部相互作用仍需结合局部模型共同使用。未来的研究方向包括优化积分计算方法、进一步提升计算效率，以及探索纯EFA模型在更复杂体系中的应用潜力。

总体而言，该工作为分子机器学习提供了一种兼顾物理一致性与计算效率的全新建模框架，有望推动分子模拟与材料设计领域的发展。

整理 | DrugOne团队

参考资料

Frank, J.T., Chmiela, S., Müller, KR. et al. Machine learning global atomic representations with Euclidean fast attention. Nat Mach Intell 8, 388–402 (2026).

https://doi.org/10.1038/s42256-026-01195-y

内容为【DrugOne】公众号原创｜转载请注明来源