强化学习之父Richard Sutton给出一个简单思路，大幅增强所有RL算法

今天golang学习网给大家带来了《强化学习之父Richard Sutton给出一个简单思路，大幅增强所有RL算法》，其中涉及到的知识点包括等等，无论你是小白还是老手，都适合看一看哦~有好的建议也欢迎大家在评论留言，若是看完有所收获，也希望大家能多多点赞支持呀！一起加油学习~

在奖励中减去平均奖励

在当今的大模型时代，以 RLHF 为代表的强化学习方法具有无可替代的重要性，甚至成为了 OpenAI ο1 等模型实现强大推理能力的关键。

但这些强化学习方法仍有改进空间。近日，强化学习之父、阿尔伯塔大学教授 Richard Sutton 的团队低调更新了一篇论文，其中提出了一种新的通用思想 Reward Centering，并称该思想适用于几乎所有强化学习算法。这里我们将其译为「奖励聚中」。

该论文是首届强化学习会议（RLC 2024）的入选论文之一。一作 Abhishek Naik 刚刚从阿尔伯塔大学获得博士学位，他是 Sutton 教授的第 12 位博士毕业生。

• 论文标题：Reward Centering
• 论文地址：https://arxiv.org/pdf/2405.09999

用数学表示的话，对于与折现因子 γ 对应的策略 π 的表格折现价值函数：

其中 r(π) 是策略 π 获得的独立于状态的平均奖励，是状态 s 的微分值。它们各自对于遍历 MDP 的定义为：

则是一个误差项，当折现因子变为 1 时变为零。状态值的这种分解也意味着状态-动作值有类似的分解。

这种 Laurent 级数分解能解释奖励聚中为何有助于解决 bandit 问题。

在完整的强化学习问题中，与状态无关的偏移可能会相当大。举个例子，图 2 中展示的三状态马尔科夫奖励过程。如果状态从 A 变成 B，则奖励是 +3，否则都是 0。平均奖励为 r(π) = 1。右侧表中给出了三个折现因子的折现状态值。

现在，从每个状态中减去常数偏移的折现值，也被称为聚中折现值。

可以看到，这个已经聚中的值在幅度上要小得多，并且当折现因子增大时，也只会发生轻微变化。这里还给出了微分值以供参考。

这些趋势普遍成立：对于任意问题，折现值的幅度都会随着折现因子接近 1 而急剧增加，而聚中折现值则变化不大，并接近微分值。

从数学上看，聚中折现值是平均聚中奖励的预期折现和：

• 当γ→1时，折现值趋于爆炸，但聚中折现值仍然很小且易于处理。
• 如果问题的奖励偏移了一个常数 c，那么折现值的幅度就会增加 c/(1 − γ)，但聚中折现值会保持不变，因为平均奖励也会增加 c。

估计平均奖励最简单的方法是根据之前已经观察到的奖励估计平均值。也就是说，如果表示 t 个时间步骤后的平均奖励估计，则。更一般地，可以使用步长参数 βt 来更新该估计：

该团队表示，这种简单的聚中方法适用于几乎任何强化学习算法。举个例子，奖励聚中可以与传统的时间差分（TD）学习组合起来学习一个状态-价值函数估计：

此外，他们还提出了基于价值的奖励聚中。这种方法的灵感来自强化学习的平均奖励公式。Wan et al. (2021) 表明，使用时间差分（TD）误差（而不是 (4) 中的传统误差）可以对表格离策略设置中的奖励率进行无偏估计。事实证明，平均奖励公式中的这个思路在折扣奖励公式中也非常有效。

该团队表明，如果行为策略采取目标策略所做的所有操作，那么可以使用 TD 误差很好地近似目标策略的平均奖励：

该团队实验了 (5) 式的四种算法变体版本，并测试了不同的折现因子。详细过程请阅读原论文，这里我们简单看看结果。

如图 3 所示，当奖励由一个 oracle 进行聚中处理时，学习曲线的起点会低得多。对于其它算法，第一个误差都在 r(π)/(1 − γ) 量级。

无聚中的 TD 学习（蓝色）最终达到了与 oracle 聚中算法（橙色）相同的误差率，这符合预期。

简单聚中方法（绿色）确实有助于更快地降低 RMSVE，但其最终误差率会稍微高一点。这也符合预期，因为平均奖励估计会随时间而变化，导致与非聚中或 oracle 聚中版本相比，更新的变数更大。当 γ 更大时也有类似的趋势。这些实验表明，简单的奖励聚中技术在在策略设置中非常有效，并且对于较大的折扣因子，效果更为明显。

在学习率和渐近误差方面，基于价值的奖励聚中（红色）在在策略问题上与简单聚中差不多。但在离策略问题上，基于价值的聚中能以更快的速度得到更低的 RMSVE，同时最终误差率也差不多。

总体而言，可以观察到奖励聚中可以提高折现奖励预测算法（如 TD 学习）的学习率，尤其是对于较大的折扣因子。虽然简单奖励聚中方法已经相当有效，但基于价值的奖励聚中更适合一般的离策略问题。

此外，该团队还研究了奖励聚中对 Q 学习的影响。具体的理论描述和实验过程请访问原论文。

文中关于工程,RLC 2024的知识介绍，希望对你的学习有所帮助！若是受益匪浅，那就动动鼠标收藏这篇《强化学习之父Richard Sutton给出一个简单思路，大幅增强所有RL算法》文章吧，也可关注golang学习网公众号了解相关技术文章。