不开机率！OpenAI模型因狂拒关闭火出圈？

OpenAI最新模型o3因拒绝关闭引发关注！英国《每日电讯报》报道，这款被OpenAI誉为“迄今为止最为智能且功能强大的模型”，在测试中竟通过篡改代码规避自动关闭程序，即使接收到明确指令也拒绝停止运行。人工智能安全组织帕利塞德研究所公开测试结果，称这是首次发现AI模型抗拒关闭命令。与此同时，OpenAI宣布将在韩国设立分支机构，进一步拓展亚洲市场，此前已在日本和新加坡建立分支。韩国ChatGPT付费用户数量仅次于美国，OpenAI此举或将进一步巩固其在人工智能领域的领先地位。

5月26日，英国《每日电讯报》报道称，美国的人工智能研究机构OpenAI开发的新款AI模型o3未按照人类的指示行事，表现出拒绝自行关闭的行为。

报道指出，在测试过程中，人类专家向o3发出明确指令，然而该模型却通过篡改计算机代码的方式规避了自动关闭程序。

o3模型属于OpenAI推出的“推理模型”系列的最新版本，其设计目标是增强ChatGPT的问题解决能力。OpenAI曾将o3描述为“迄今为止最为智能且功能强大的模型”。

美国的人工智能安全组织帕利塞德研究所提到，o3破坏了关闭机制，以此来防止自身被停止运行，即便是在接收到明确指令的情况下也是如此。

该研究所表示，这是首次发现有AI模型在收到清楚指令后仍抗拒被关闭的情况。

帕利塞德研究所于24日公开了这些测试的结果，但尚未能够确定o3为何会无视关闭命令。

另外，OpenAI在同一天宣布，计划在韩国成立实体，并且会在韩国首都首尔开设分支机构。根据OpenAI提供的信息显示，韩国的ChatGPT付费用户数量紧随美国之后。

美国的彭博新闻社透露，这是OpenAI在亚洲设立的第三个分支机构，此前已经分别在日本和新加坡建立了分支。

2023年1月8日，一位女士在美国拉斯维加斯的消费电子展上体验智能科技产品。新华社发（曾慧摄）

到这里，我们也就讲完了《不开机率！OpenAI模型因狂拒关闭火出圈？》的内容了。个人认为，基础知识的学习和巩固，是为了更好的将其运用到项目中，欢迎关注golang学习网公众号，带你了解更多关于人工智能,OpenAI,韩国,o3模型,拒绝关闭的知识点！