2023智源大会AI安全话题备受关注，《人机对齐》新书首发

欢迎各位小伙伴来到golang学习网，相聚于此都是缘哈哈哈！今天我给大家带来《2023智源大会AI安全话题备受关注，《人机对齐》新书首发》，这篇文章主要讲到等等知识，如果你对科技周边相关的知识非常感兴趣或者正在自学，都可以关注我，我会持续更新相关文章！当然，有什么建议也欢迎在评论留言提出！一起学习！

众多AI领域的探索者、实践者齐聚一堂，分享研究成果、交换实践经验，畅叙科技之美，2023北京智源大会近日顺利召开，作为人工智能领域综合性内行盛会，这场闪烁智慧光芒的思想交流，以百场精彩报告研讨，共同见证一场关于智能的惊叹演化。

在AI安全与对齐论坛上，众多专家学者展开交流，进入大模型时代，如何确保越发强大和通用的人工智能系统安全可控，符合人类意图和价值观，是极为重要的一个问题。这一安全问题又被称为人机对齐（AI alignment）问题，它代表了本世纪人类社会面临的最紧迫和最有意义的科学挑战之一。

论坛上「深度学习之父」Geoffrey Hinton、OpenAI创始人Sam Altman和张钹院士等14位国内外嘉宾围绕人机对齐、大模型的可同时，与此次论坛议题高度契合的科学作家布莱恩·克里斯汀(Brian Christian)的最新作品--The Alignment Problem，中文版书名：《人机对齐》也在会上正式发布。该书由湖南科学技术出版社引进出版，安远AI审校。安远AI创始人谢旻希主持了此次新书发布仪式。

《人机对齐》作者Brian Christian应邀线上发言。在发言中，他首先向读者与与会嘉宾发来问候。他感到十分荣幸能够发布新书《人机对齐》，并希望该书能在中国的人工智能领域中持续发挥作用并做出贡献。同时对《人机对齐》的主要内容做了简要介绍：全书共分为三篇，第一篇就当前影响机器学习系统的伦理和安全问题进行了探讨，第二篇名为自主，焦点从监督和自监督学习转移到强化学习，第三篇在监督学习、自监督学习、强化学习的基础上探讨我们如何在现实世界中对齐复杂的AI系统。希望《人机对齐》在国内的发布不仅对研究人员起到帮助，更能有助于我们把自己对于这个领域的热情传递给每一位非专业人士。他最后表达了期待，希望观察本次会议的讨论，以及中国在人工智能领域的研究将如何推动全球发展。

《人机对齐》

【美】布莱恩·克里斯汀著；唐璐译

出版社：湖南科学技术出版社

现今的“机器学习”系统拥有卓越能力，能够代替我们观察和听取，并代表我们做出决策。但是警钟已经敲响。随着机器学习飞速发展，人们的担忧也在与日俱增。使用人工智能进行训练时，如果其行为与我们预期的目的不一致，可能会导致潜在的风险和伦理问题。This issue is referred to as the alignment problem by researchers.。

AI与人类息息相关的问题，畅销书作家布莱恩·克里斯汀以生动的笔调进行了清晰阐述。在书中，我们将认识第一批积极应对对齐问题的学者，了解他们为了避免AI发展的局面失控，付出的卓绝努力和雄心勃勃的计划。克里斯汀不仅精练地描绘了机器学习的发展史，并且亲自深入科研一线同科学家对话，准确呈现了机器学习最前沿的进展。人类未来的决定性影响将取决于对齐问题研究的成败，让读者能够明确意识到这一点。

对齐问题还是一面镜子，将人类自身的偏见和盲点暴露出来，让我们看清自己从未阐明的假设和经常自相矛盾的目标。这是一部精彩纷呈的跨学科史诗，不仅审视了人类的科技，也审视了人类的文化，时而让人沮丧，时而又柳暗花明。

这本书在国外的出版反响热烈，被微软首席执行官萨蒂亚·纳德拉评为2021年最激励他的五本书之一，被《纽约时报》评为关于AI关键技术和道德问题的best书籍，如作者布莱恩·克里斯汀所言：“希望中国AI领域以及更广泛的中国读者也可以读到这本书，希望对你们而言，这本书是内容丰富、发人深省、鼓舞人心的，不仅对于作为研究人员有帮助，也有助于你们把自己对这个领域的热情传递给生活中的非计算机科学家。”

潇湘晨报记者周诗浩

理论要掌握，实操不能落！以上关于《2023智源大会AI安全话题备受关注，《人机对齐》新书首发》的详细介绍，大家都掌握了吧！如果想要继续提升自己的能力，那么就来关注golang学习网公众号吧！