超级智能到底是什么？

对于一个科技周边开发者来说，牢固扎实的基础是十分重要的，golang学习网就来带大家一点点的掌握基础知识点。今天本篇文章带大家了解《超级智能到底是什么？》，主要介绍了，希望对大家的知识积累有所帮助，快点收藏起来吧，否则需要时就找不到了！

超级智能的发展是科学家们争论不休的话题。超级智能是从更传统的通用人工智能(AGI)概念演变而来的。在未来十年内，这种强大的技术可能出现，可能会解决全球性的重大问题，或者对人类权力产生负面影响，甚至可能导致灭绝。

OpenAI(美国人工智能研究公司)的战略包括创建一个具有人类水平能力的自动对齐研究人员，并利用大量计算资源迭代地训练和对齐超级智能。需要创新的人工智能对齐技术、全面的验证和对抗性压力测试，完成了被称为超级智能对齐的过程。

OpenAI致力于应对这一挑战，投入了大量资源和研究，并鼓励优秀的研究人员和工程师共同合作努力。然而，术语从通用人工智能到超级智能的转变，是否会对围绕人工智能风险和收益的持续争论产生深远影响，还有待观察。

OpenAI强调了超级智能的巨大潜力，指出它可能成为历史上最具影响力的技术之一，有能力解决全球重大问题。尽管如此，它也确认了与超级智能相关的巨大风险，这可能导致人类权力的剥夺甚至灭绝。

OpenAI相信超级智能在接下来的十年内有可能实现，尽管它看起来离我们还很遥远。为了应对超级智能与人类意图一致性的挑战，我们需要建立新的治理机构来管理风险。令人惊喜的是，OpenAI选择了这个术语，而不是更经典的通用人工智能(AGI)。他们的理由如下：

我们的重点是超级智能，而不是通用人工智能，以突显更高水平的能力。在未来几年里，我们对这项技术的发展速度有很多不确定性，所以我们选择瞄准更困难的目标，以校准一个更有能力的系统。

目前的人工智能对齐技术，如基于人类反馈的强化学习，无法全面控制潜在的超级智能人工智能。人类无法可靠地监督比我们聪明得多的系统，现有技术也无法扩展到超级智能。OpenAI强调需要科学和技术突破来克服这些挑战。

OpenAI的方法旨在创建一个拥有与人类研究人员相近能力的自动对齐系统。大量的计算资源将被用来扩展他们的努力，并迭代地调整超级智能。该句可以重写为：重要步骤涵盖了设计可扩展训练方法、验证生成的模型，以及对对齐管道进行压力测试。根据OpenAI公告的标题，这个概念被称为超级智能对齐。

为了解决评估具有挑战性任务的困难，可以应用可扩展的人工智能系统进行监督。对于确保一致性，将监督应用于无监督任务以及检测有问题的行为和内部结构是至关重要的。通过对抗性测试来训练未对齐的模型，可以验证对齐技术的有效性。

OpenAI预计，随着对该问题的了解越来越多，其研究重点将会发生变化，并且他们计划在未来分享他们的路线图。一个由顶尖机器学习研究人员和工程师组成的团队已经成立，专注于解决超级智能对齐挑战。OpenAI计划在未来四年将其20%的资源投入于这项工作的安全计算方面。

尽管没有成功的保证，但OpenAI仍然坚定地相信，通过集中一致的努力，这个问题是可以解决的。他们的目标是提供证据和论据，让机器学习和安全社区相信问题已经解决，他们正在积极与跨学科专家合作，考虑更广泛的人类和社会问题。

OpenAI鼓励非对齐工作经验的杰出研究人员和工程师加入他们的努力中。他们认为超级智能对齐是最重要的未解决的技术问题之一，并认为这是一个易于处理的机器学习问题，具有重大贡献的潜力。

对于人工智能、通用人工智能以及相关复杂的问题，包括从实用应用到潜在人类威胁等，人们之间正形成激烈的争论并产生新的分歧。如今，词汇已经发生了一些变化，但尚不清楚这是科学还是语义。

以上就是《超级智能到底是什么？》的详细内容，更多关于人工智能,AI的资料请关注golang学习网公众号！