当前位置：首页 > 文章列表 > 科技周边 > 人工智能 > ICLR 2024 Oral｜用巧妙的「传送」技巧，让神经网络的训练更加高效

ICLR 2024 Oral｜用巧妙的「传送」技巧，让神经网络的训练更加高效

来源：机器之心 2024-05-09 22:18:10 0浏览收藏

从现在开始，努力学习吧！本文《ICLR 2024 Oral｜用巧妙的「传送」技巧，让神经网络的训练更加高效》主要讲解了等等相关知识点，我会在golang学习网中持续更新相关的系列文章，欢迎大家关注并积极留言建议。下面就先一起来看一下本篇正文内容吧，希望能帮到你！

AIxiv专栏是本站发布学术、技术内容的栏目。过去数年，本站AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com

本论文作者赵博是加州大学圣地亚哥分校的三年级在读博士，其导师为 Rose Yu。她的主要研究方向为神经网络参数空间中的对称性，及其对优化、泛化和损失函数地貌的影响。她曾获 DeepMind 奖学金，并且是高通创新奖学金的决赛入围者。邮箱：bozhao@ucsd.edu

众多神经网络模型中都会有一个有趣的现象：不同的参数值可以得到相同的损失值。这种现象可以通过参数空间对称性来解释，即某些参数的变换不会影响损失函数的结果。基于这一发现，传送算法（teleportation）被设计出来，它利用这些对称变换来加速寻找最优参数的过程。尽管传送算法在实践中表现出了加速优化的潜力，但其背后的确切机制尚不清楚。

近日，来自加州大学圣地亚哥分校、Flatiron Institute、美国东北大学等机构的研究人员发布的《Improving Convergence and Generalization Using Parameter Symmetries》论文中，展示了传送不仅能在短期内加快优化过程，而且能总体上缩短收敛时间。此外，研究还发现，传送到具有不同曲率的最小值可以改善模型的泛化能力，这意味着最小值的曲率与泛化能力之间存在联系。研究者们进一步将传送技术与多种优化算法以及基于优化的元学习相结合，这些结果充分展示了在优化过程中融入参数空间对称性的潜力。

论文链接：https://openreview.net/forum?id=L0r0GphlIL
代码链接：https://github.com/Rose-STL-Lab/Teleportation-Optimization
作者主页：https://b-zhao.github.io/

背景：对称性和传送算法

参数空间对称性（parameter space symmetry）是群 G 在参数空间（Param）上的一个作用，该作用使得损失函数 L 的值保持不变：

对称传送算法（symmetry teleportation）在损失函数水平集中寻找更陡峭的点以加速梯度下降：

传送后，损失值不会改变。然而，梯度和之后的训练轨迹会有所不同。

传送对收敛速度的提高

论文第一部分提供了对传送提高收敛速度的理论证明。

通过传送，随机梯度下降（SGD）会收敛到一个包含多个静止点的盆地，其中通过传送可达的每个点都是静止的。图 1 中的定理提供了损失函数梯度期望值的上限。相比之下，普通 SGD 只能保证存在一个点 wt，使得梯度最终会很小。加入传送后，对于群作用轨道上所有的点，梯度都将很小。

^{图 1}^{：该定理提供了损失函数梯度期望值的上限}

此外，在进行一次传送后，梯度下降的方向与牛顿法（Newton’s method）方向相同。因此，收敛速度具有一个二次收缩项，这是二阶方法的典型特征。相反，如果在相同的假设下省略传送步骤，算法的收敛速度将仅呈现线性收敛。图 2 中的定理展示了传送导致的线性和二次收敛的混合。

^{图 2：}^{该定理展示了传送导致的线性和二次收敛的混合}

通过传送改善泛化能力

在探索机器学习模型优化的过程中，「传送」这一概念最初被提出是为了加速收敛并提高算法的效率。然而，在该论文的第二部分，研究者们将视野扩展到了一个新的目标 —— 提升模型的泛化能力。

泛化能力通常与模型在训练过程中达到的极小值的「锐度」(sharpness) 相关。为了深入理解这一点，研究者们引入了一个新的概念 ——「极小值曲率」(curvature)，并讨论其对泛化的影响。通过观察极小值的锐度、曲率与泛化能力之间的关联，研究者们提出了一种新的方法，将锐度和曲率纳入传送的目标中来提升模型的泛化性能。

图 3 通过可视化的方式展示了一个梯度流 L (w) 和一条极小值上的曲线（γ），这两条曲线的曲率对应着极小值的锐度和曲率。此外，表中还显示了测试集上的损失与锐度或曲率之间的 Pearson 相关性。在三个数据集中，锐度与验证损失呈强正相关，而极小值的曲率则与验证损失呈负相关。这些发现表明，具有较小锐度或较大曲率的极小值，可能会带来更好的泛化效果。

^{图 3：}^{展示了一个梯度流 L (w) 和一条极小值上的曲线（γ）}

这些相关性的一种解释来源于损失地形（loss landscape）在不同数据分布上的变化。当数据分布发生变化导致损失地形变化时，尖锐的极小值损失增加较大（如图 4 右侧所示）。在图 4 中，曲率较大的极小值与变化后的极小值距离更远（如图 4 左侧所示）。

^{图 4}

取得了极小值的属性与泛化能力的相关性后，该研究人员将参数传送到具有不同锐度和曲率的区域，以提高模型的泛化能力。图 5 为在 CIFAR-10 上 SGD 的训练曲线，其中在第 20 个 epoch 进行了一次传送。实线代表平均测试损失，虚线代表平均训练损失。

^{图 5}

传送到更平坦的点略微改善了验证损失。通过传送改变曲率对泛化能力有更显著的影响。传送到曲率较大的点有助于找到具有较低验证损失的极小值，而传送到曲率较小的点则产生相反的效果。这表明至少在局部，曲率与泛化相关。

传送和其他优化器的结合

标准优化器

传送不仅有助于 SGD 的收敛速度。为了展示传送与其他标准优化器的良好兼容性，研究者们使用不同的优化器在 MNIST 上训练了一个三层神经网络，并进行了带传送和不带传送的训练。如图 6 所示，在使用 AdaGrad、带动量的 SGD、RMSProp 和 Adam 时，传送提高了这些算法的收敛速度。

^{图 6：}^{在使用 AdaGrad、带动量的 SGD、RMSProp 和 Adam 时，传送提高了这些算法的收敛速度}

学习传送

受条件编程（conditional programming）和基于优化的元学习（meta-learning）的启发，研究者们还提出了一个元优化器，用于学习在损失水平集中移动参数的位置。这种方法避免了在群流形上优化的计算成本，并改进了现有的仅限于局部更新的元学习方法。

图 7 总结了训练算法。研究人员使用了两个 LSTM 元优化器 (m1, m2) 来学习局部更新 ft 和传送中使用的群元素 gt。在两层 LeakyReLU 神经网络上的实验中，他们使用了不同初始化创建的多个梯度下降轨迹上训练元优化器，并在训练中未见过的新初始值上测试收敛速度。

^{图 7：}^{总结了训练算法}

与基线相比，同时学习两种更新类型（LSTM (update,tele)）比单独学习它们（LSTM (update) 、LSTM (lr,tele)）能够实现更好的收敛速率。

总结

该论文的主要贡献包括传送加速 SGD 收敛的理论保证、极小值曲率的量化及其与泛化相关性的证据、基于传送的改善泛化的算法以及学习传送位置的元学习算法。

传送广泛适用于在损失水平集中搜索具有优秀属性的参数。对称性与优化之间的密切关系开启了许多激动人心的机会。探索传送中的其他目标是一个有潜力的未来方向。其他可能的应用包括将传送扩展到不同的架构，如卷积或图神经网络，以及不同的算法，如基于采样的优化。

今天关于《ICLR 2024 Oral｜用巧妙的「传送」技巧，让神经网络的训练更加高效》的内容就介绍到这里了，是不是学起来一目了然！想要了解更多关于神经网络,工程,传送算法的内容请关注golang学习网公众号！

神经网络工程传送算法

版本声明

本文转载于：机器之心如有侵犯，请联系study_golang@163.com删除

ICLR 2024 Oral｜用巧妙的「传送」技巧，让神经网络的训练更加高效

上一篇: ICLR 2024 Oral｜用巧妙的「传送」技巧，让神经网络的训练更加高效

下一篇: Golang 技术在云计算领域中的发展趋势

查看更多

最新文章

科技周边 · 人工智能 | 3天前 | 腾讯云生成式AI 混元大模型

腾讯混元升级模型矩阵，云上推出256k长文模型

343浏览收藏
科技周边 · 人工智能 | 3天前 | 腾讯云混元大模型

腾讯汤道生：打破AI“落地玻璃”，让可见变为可用

478浏览收藏
科技周边 · 人工智能 | 3天前 | 腾讯云腾讯混元大模型

单次支持38万字输入！腾讯混元推出256k长文模型，通过腾讯云向企业和个人开发者开放

252浏览收藏
科技周边 · 人工智能 | 3天前 | 人工智能 CAIO 首席人工智能官

首席人工智能官的基本技能和特质

212浏览收藏
$CVPR\'24 Oral | 一览纯稀疏点云检测器SAFDNet的前世今生！$

科技周边 · 人工智能 | 3天前 | 3D 点云

CVPR\'24 Oral | 一览纯稀疏点云检测器SAFDNet的前世今生！

415浏览收藏
科技周边 · 人工智能 | 3天前 | 自动驾驶路径规划

路径规划概述：基于采样、搜索、优化全搞定！

156浏览收藏

查看更多

课程推荐

前端进阶之JavaScript设计模式

设计模式是开发人员在软件开发过程中面临一般问题时的解决方案，代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景，打造一站式知识长龙服务，适合有JS基础的同学学习。

540次学习
GO语言核心编程课程

本课程采用真实案例，全面具体可落地，从理论到实践，一步一步将GO核心编程技术、编程思想、底层实现融会贯通，使学习者贴近时代脉搏，做IT互联网时代的弄潮儿。

504次学习
简单聊聊mysql8与网络通信

如有问题加微信：Le-studyg；在课程中，我们将首先介绍MySQL8的新特性，包括性能优化、安全增强、新数据类型等，帮助学生快速熟悉MySQL8的最新功能。接着，我们将深入解析MySQL的网络通信机制，包括协议、连接管理、数据传输等，让

497次学习
JavaScript正则表达式基础与实战

在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。

487次学习
从零制作响应式网站—Grid布局

本系列教程将展示从零制作一个假想的网络科技公司官网，分为导航，轮播，关于我们，成功案例，服务流程，团队介绍，数据部分，公司动态，底部信息等内容区块。网站整体采用CSSGrid布局，支持响应式，有流畅过渡和展现动画。

484次学习

查看更多

GPT-4王者加冕！读图做题性能炸天，凭自己就能考上斯坦福

2023-04-25 501浏览
单块V100训练模型提速72倍！尤洋团队新成果获AAAI 2023杰出论文奖

2023-04-24 501浏览
ChatGPT 真的会接管世界吗？

2023-04-13 501浏览
VR的终极形态是「假眼」？Neuralink前联合创始人掏出新产品：科学之眼！

2023-04-30 501浏览
实现实时制造可视性优势有哪些？

2023-04-15 501浏览