机械系统也能自主学习！密歇根大学团队构建了全新数学框架，登上Nature Communications

小伙伴们有没有觉得学习科技周边很有意思？有意思就对了！今天就给大家带来《机械系统也能自主学习！密歇根大学团队构建了全新数学框架，登上Nature Communications》，以下内容将会涉及到，若是在学习中对其中部分知识点有疑问，或许看了本文就能帮到你！

受大脑复杂运作机制的启发，神经网络技术已彻底革新了各领域的科研生产模式。然而，基于计算机的神经网络需要巨大的计算资源和高能耗，特别是传统数字处理器的能源效率问题日益突出，因此，机械神经网络（MNN）应运而生。

光学神经网络利用光波与物质的相互作用实现机器学习，类似地，机械神经网络（MNN）也借鉴此思路构建学习框架。密歇根大学（UM）团队受神经科学启发，设计了一种算法，为 MNN 的自主学习提供了数学框架，即基于原位反向传播的 MNN 训练协议。该协议源于伴随变量方法，理论上可从局部信息精确获取梯度。

MNN 不仅可作为计算设备，更作为可持续、自主的材料系统，为材料科学和机械工程带来前所未有的机遇，因为它能够学习适应不同环境和任务的行为。这项研究成果发表在2024年12月9日的《Nature Communications》期刊上，题为“通过原位反向传播训练全机械神经网络进行任务学习”。

“我们发现材料能够自主学习任务并进行计算，”主要研究者 Shuaifeng Li 表示，“虽然未来还有很长的路要走，但 UM 的这项新研究成果也能为其他领域的研究人员提供直接的灵感。”

UM 团队的研究结合了 MNN 训练理论、实验和数值验证，为机械机器学习硬件和自主材料系统的发展奠定了基础。

原位反向传播机制

MNN 原位反向传播的理论基础在于获得损失函数对 MNN 弹簧常数的梯度。该方法在 d 维空间中嵌入 n 个节点并分配位置，分为 n 个输入节点和 n 个输出节点，由 m 个弹簧连接，每个弹簧具有弹簧常数 k 弹。通过合理的网络连接设计避免零模式，确保矩阵 C 的完全排序。

MNN 原位反向传播获取损失函数梯度 L 的过程分两步：首先，对 MNN 施加输入力 F，得到节点位移和键 e 的向前伸长；然后，计算给定损失函数，这需要用到第一步计算的位移，但在数字计算机中计算成本较高。

基于能量的学习方法中，微移状态与自由状态（由轻推强度控制）略有差异，而新方法中的两种平衡状态是独立的，其中输入力在第二种状态中不存在。

该训练方法本质上提供了两个信号传递：一个向前传递输入信号，一个向后传递误差信号。这种传递方法与物理学习规则一致，除了误差反向传播和耦合学习外，该方法也为本地训练 MNN 提供了一种替代方案。

图 1：原位反向传播的实际演示。

为了演示 MNN 中的原位反向传播，研究人员使用 3D 打印技术制造了一个二维 MNN。实际模拟结果表明，损失函数的梯度是向前伸长和伴随伸长的元素乘积。实验结果 (c) 与模拟结果 (d) 具有极高的一致性。实验梯度误差小于 0.1，该结果由三个独立实验和另一个损失函数的另外三个独立实验平均得到。

虽然数值上可以获得机器精度的梯度，但线性状态下的假设需要无限小的变形，这表明实验方法始终是近似值。为此，研究人员进行了误差分析，将梯度误差表示为伴随力的函数。在大伴随力下，低梯度误差使得实验方法能够更准确高效地产生梯度。

行为学习

UM 团队的论文指出，训练 MNN 学习行为可以减少设计策略的工作量。他们证明，无需专业知识，MNN 通过原位反向传播即可学习所需的行为。

图 2：使用 MNN 进行行为学习。

图示为 MNN 在施加力下的对称输出，顶部面板显示机械网络配置，底部面板显示模拟和实验的垂直位移。利用交叉熵损失和归一化，可以区分两个青色节点表示的两个类别。

交叉熵损失随着预测概率 p 接近实际标签而减小，从而最大化概率并最小化两个绝对垂直位移之间的差异。通过原位反向传播，可以实现不对称输出，即在施加于红色节点的相同力下，两个节点具有不同的垂直位移。

该实例表明，MNN 可以学习在施加力下不同的行为，原位反向传播提供了一种简便方法，可用于创建具有所需功能的复杂机械系统。

可重训练性

与只存在于数字领域的基于计算机的神经网络不同，MNN 是物理制造的，将机器学习模型嵌入到真实材料中。因此，MNN 的可重训练性至关重要。

实验人员通过模拟实验验证了 MNN 在两个关键场景中的可重训练性：一是按需在任务之间无缝切换；二是损坏后恢复机器学习模型的能力。

图 3：可重训练的 MNN。

训练受损的 MNN 后，分裂准确率从初始损坏崩溃后的 50% 回升到 80%，表明存储在 MNN 中的分类模型得到了有效恢复。损失的减少也显示了显著的变化，表明训练过程取决于训练和测试数据集的划分。

影响因素

目前，学习过程并未涉及真实的 MNN 物理更新。基于 UM 团队演示的原位反向传播，存在多种实验途径来实现弹簧常数的更新，因此整个学习过程可以通过多种实验方式来复现。

研究团队指出，可调杆平台、磁活性、相变和光可调性等方法，可以通过外部场对材料属性进行原位编程，有望促进原位反向传播的进一步实验。

此外，还需考虑仿真模型与真实材料系统之间的差异。需要通过局部修剪规则来操纵材料响应，并适应比弹簧网络更复杂的网络。

总结

反向传播一直是数字和光学处理器进行机器学习最有效、最广泛使用的算法。将其应用于机械系统，揭示了 MNN 在降低机器学习成本方面的潜力。

“力是输入信息，材料本身就像处理器，材料的变形是输出或响应，”Li 说。

训练后的 MNN 在设计具有自学习能力的自主机器人和智能材料方面具有广阔前景。由于该算法对信息的传输方式不敏感，它还有助于探索生命系统如何学习。

“我们看到反向传播理论在许多物理系统中取得了成功，”Li 说。“我认为这也能帮助生物学家了解人类和其他物种的生物神经网络的工作机制。”

UM 团队还在研究更广泛的材料网络类别，包括聚合物和纳米粒子组装，以创建新的系统，应用他们的算法并努力实现完全自主的学习机器。

论文链接：https://www.nature.com/articles/s41467-024-54849-z

本篇关于《机械系统也能自主学习！密歇根大学团队构建了全新数学框架，登上Nature Communications》的介绍就到此结束啦，但是学无止境，想要了解学习更多关于科技周边的相关知识，请关注golang学习网公众号！