微软AI主管：AI安全围栏引热议

大家好，我们又见面了啊~本文《微软AI主管：AI应设安全围栏，避免模仿人类》的内容中将会涉及到等等。如果你正在学习科技周边相关知识，欢迎关注我，以后会给大家带来更多科技周边相关文章，希望我们能一起进步！下面就开始本文的正式内容~

8 月 25 日消息，微软人工智能部门负责人穆斯塔法・苏莱曼于上周（8 月 19 日）发表文章，分享了他对当前 AI 发展现状及未来方向的思考。

苏莱曼强调，他毕生的目标是让世界变得更美好，致力于打造安全且对人类有益的人工智能系统。目前，微软正聚焦于将 Copilot 发展为一项负责任的技术，旨在增强人类的创造力与生产力，真正实现“AI 赋能人类”。

他希望未来的 AI 更具“人性温度”，能够深度融入现实世界，并促进人与人之间的信任与理解。然而，这一愿景面临诸多挑战，尤其需要极其审慎的态度。微软将始终坚持“以人为本”的核心价值观，以此指导 AI 的研发与应用。

在文中，苏莱曼也表达了对当前 AI 社会现象的忧虑。他指出，越来越多的人开始相信大语言模型（LLM）具备某种形式的意识，甚至有人基于情感依附，为所谓的“AI 权利”、“AI 福利”乃至“AI 公民身份”发声。值得注意的是，这种倾向并非仅限于心理异常者，普通健康人群中也普遍存在，他将这种现象称为“AI 精神分裂”。

他认为，AI 的发展必须以人为中心，不应鼓励机器去“模仿人类情感或人格”。整个行业亟需建立一道“安全边界”，明确技术不可逾越的底线，唯有如此，才能把 AI 真正关进制度的笼子，确保其为社会带来长期价值。

外媒 WindowsReport 评论称，苏莱曼的担忧并非空穴来风。就在本月初，OpenAI 宣布停用 GPT-4o 模型时，引发了大量用户抗议，许多人表示该 AI 已成为他们的情感伴侣，并呼吁让它“复活归来”。

此外，OpenAI 首席执行官山姆・奥尔特曼也曾公开表示，AI 所提供的情感连接强度远超以往任何技术，并警告称，这项技术强大到“足以导致人类自我毁灭”。

今天关于《微软AI主管：AI安全围栏引热议》的内容就介绍到这里了，是不是学起来一目了然！想要了解更多关于AI,模仿人类,以人为本,安全围栏,情感伴侣的内容请关注golang学习网公众号！