蒙眼狂奔？GPT-4狂飙之际微软却被曝砍掉了AI伦理团队

对于一个科技周边开发者来说，牢固扎实的基础是十分重要的，golang学习网就来带大家一点点的掌握基础知识点。今天本篇文章带大家了解《蒙眼狂奔？GPT-4狂飙之际微软却被曝砍掉了AI伦理团队》，主要介绍了，希望对大家的知识积累有所帮助，快点收藏起来吧，否则需要时就找不到了！

上个月微软推出AI版必应（Bing）搜索，开启以AI搜索向搜索巨头谷歌挑战的序幕，接着更是将来自投资公司OpenAI的技术运用到各类产品中。随着GPT-4的发布，微软进一步加速了其AI产品化的步伐。

不过最新消息显示，就在微软AI狂飙之际，该公司却裁掉一个负责AI伦理道德的关键团队，该团队确保微软产品以符合伦理的方式引入AI技术。

裁员发生在微软迎来AI幸福时刻之前

今年1月微软曾裁员10000人，当中AI部门的伦理和社会团队被砍掉。这意味着目前微软正在向公众推出AI工具，但微软内部并没有一个专业团队负责将AI原则与产品设计结合在一起。但即便如此，微软仍告诉外界会以负责任态度推进AI。

当然，微软现在内部保留了一个名叫“负责任AI办公室”（Office of Responsible AI）的机构，它为微软AI项目设立规范和原则。但员工似乎对此并不买账。

微软一些员工认为伦理和社会团队相当重要，它们可以确保微软“负责任”的AI原则在产品设计时真正得到体现。一位微软前员工说：“看到负责任AI办公室提供一些原则，有人可能会说：‘我不知道如何应用。’而伦理和社会团队的任务就是向他们演示，给没有规则的地方定出规则。”

在过去几年里伦理和社会团队曾设计一款名叫Judgment Call的角色扮演游戏，它可以帮设计师了解AI可能造成的潜在伤害并在开发时讨论。不久前，团队还帮微软分析了引入OpenAI技术会有何种风险。

团队是逐步被“肢解”的

2020年时微软伦理和社会团队的规模达到最大，不过人数并不多，只有30人，包括工程师、设计师、哲学家。去年10月，因为重组团队人数减少，只剩下大约7人。

在一次会议上，微软AI企业副总裁John Montgomery说，员工们将会被快速转移至它处。“来自CTO和CEO的压力非常非常大，上层要求我们将最新开发的OpenAI模型及之后的模型以最快速度交给客户。”

会上有员工表示不满。一位员工说：“怒我大胆，希望你能重新考虑这个决定。我知道这一决定有业务上的考虑，我也理解……但是伦理和社会团队十分关心我们的工作对社会有何影响，尤其是负面影响。影响是十分巨大的。”

不过John Montgomery拒绝了员工的请求，他说：“我能重新考虑吗？我不能。很不幸，压力还是一样的。”当时John Montgomery并没有说团队会被取消。

的确，当时只是裁减了员工，伦理和社会团队仍然存在，只是人少了之后想推进宏大计划变得有心无力。

3月6日，伦理和社会团队剩余员工开会，John Montgomery明确告诉员工团队将会完全取消。

团队曾预警引入OpenAI工具的风险

就在伦理和社会团队被砍之前，他们正在做一件十分重要的事：预测微软OpenAI工具向全球推广之后会发生什么？

去年该团队曾撰写一份备忘录，详细讨论必应Image Creator的潜在风险。必应Image Creator用到了OpenAI开发的DALL-E系统，它可以根据文本提示制作图片。去年10月必应图片创作工具在多个国家发布。

必应Image Creator相当成功，微软研究人员却警告说，由于任何人都可以轻易模拟艺术家的风格，艺术家生计可能会受到影响。备忘录称：“测试必应Image Creator发现，只需要给AI简单提示，比如输入艺术家的名字和媒介（如绘画、打印、摄影、雕塑），生成的图片就可以与原作媲美，很难分出真假。”

报告认为必应Image Creator可能会损害微软的品牌形象，艺术家以及与他联系的利益相关方也会受到伤害，艺术家和公众可能会抱怨。

去年OpenAI更新服务条款，用户完全拥有DALL-E图片的版权，当时微软伦理和社会团队十分困惑。他们认为：“如果AI生成的图片只是艺术作品的图字模仿品，根据提示制作图片的人却拥有完整版权，这在伦理道德上是讲不通的。”

怎么应对？微软研究人员提出一套方案，比如禁止必应Image Creator用户通过提示信息利用仍然在世艺术家的名字制作AI图片，还有就是创建一个集市出售艺术家作品，如果搜索艺术家名字作品就会弹出来。这些建议并没有被采纳。

微软称在发布之前工具已经修改过，目的是解决备忘录中提到的问题，而且负责任AI办公室也做了很多工作。

那么，你真的会相信微软在砍掉有伦理道德的AI伦理道德团队后，会认真规范AI，让它符合伦理吗？（小刀）

以上就是《蒙眼狂奔？GPT-4狂飙之际微软却被曝砍掉了AI伦理团队》的详细内容，更多关于GPT-4,AI的资料请关注golang学习网公众号！