编程已死，AI 当立？教授公开“唱反调”：AI 还帮不了程序员

知识点掌握了，还需要不断练习才能熟练运用。下面golang学习网给大家带来一个科技周边开发实战，手把手教大家学习《编程已死，AI 当立？教授公开“唱反调”：AI 还帮不了程序员》，在实现功能的过程中也带大家重新温习相关知识点，温故而知新，回头看看说不定又有不一样的感悟！

编译 | 核子可乐、凌敏

GitHub Copilot、ChatGPT 等 AI 产品的火爆出圈，让更多人看到 AI 在编程方面展现出的极强能力。言语不断传播，关于“AI取代程序员”、“AI崛起、编程衰落”的论调在众人间不断响起。

前段时间，前哈佛大学计算机科学教授、谷歌工程主管 Matt Welsh 在芝加哥计算机协会的一个虚拟会议上表示，ChatGPT 和 GitHub Copilot 预示着编程终结的开始。Welsh 断言，生成式 AI 将在 3 年内终结编程。

但也有一些人对此持反对意见。近日，Constructor Institute 教授、Eiffel Software 首席技术官 Bertrand Meyer 在 ACM 上发表文章公开“唱反调”，他认真研究了一番 ChatGPT 到底是怎么编程的，最终得出结论：AI 还帮不了程序员。

ChatGPT 编程实验

前段时间，Meyer 通过一系列文章讨论过如何解决虚构出来的二进制搜索问题，虽然内容看起来都不错，每篇文章也都提出了自己的解答版本，但其实大部分都是错的。（ 延伸阅读：https://bertrandmeyer.com/2020/03/26/getting-program-right-nine-episodes/）

以此为素材，Meyer 把这些文章提交给了 ChatGPT（版本 4）。

AI 选手先是对问题做出了描述：

这个问题实际可以出现在任意数量的元素上，而不仅仅是两个。只需要举出一个反例，就足以证明一个程序的不正确性；然而，要证明一个程序的正确性，需要证明它适用于所有示例。尽管 Meyer只询问了程序的正确性，而未要求具体修复方法，但ChatGPT还是热心地提供了以下建议：

这里的评论部分确实很有帮助：

ChatGPT 说得没错，逻辑很通。Meyer发现了一些可疑的部分，这是在认真检查建议的替代代码后。于是，Meyer 进一步提问：

在尝试修复 Meyer 的错误时，ChatGPT 输出了另一个同样有错的版本，只不过错得跟 Meyer 不一样。值得一提的是， ChatGPT 每次都试着给出新的版本——在纠正之前错误的同时，却又带来了新问题。

Meyer 还发现，ChatGPT 特别擅长道歉：

ChatGPT 一直在自说自话，积极向 Meyer 推荐它认为经过修正的解决方案：

到这里，Meyer 甚至不打算尝试最新版本正不正确。将一个案例作为基础不断添加特定修复，这并不是生成正确程序的最佳方法，有经验的程序员朋友都知道这一点。

于是 Meyer 也选择继续保持礼貌：

精彩的来了：ChatGPT 决定向 Meyer 介绍循环不变量的概念！

Meyer 从未明示或暗示称“需要一种更系统的方法来验证算法的正确性”，他只是想知道 ChatGPT 要如何证明它推荐的答案是对的，但绝对没有使用“系统的”或者“验证”这类字眼。之所以出现这一幕，可能是基于大型语料库的统计推理给了 ChatGPT 信心，让它认定用户肯定会质疑输出代码的正确性，然后要求以系统方法给出验证。

Meyer 继续追问了下去：

随后，ChatGPT提供了出色的回答，其中还包括了ACM计算调查中记录的循环不变量调查内容。而且它仍然是先夸一句再解释问题，非常客气：

到这里，Meyer 不打算再继续追问了。

Meyer作为一名程序员，虽然了解如何解决问题，但像大多数程序员一样，他也会经常犯错误。他希望有一个AI编程助手，可以监督他的工作并及时提醒他注意潜在的陷阱，并给出纠正建议。换言之，他希望 AI 能成为高效有用的结对编程伙伴。然而，实际的实验结果与此不同：AI 编程工具类似于一位自命不凡的博士生，聪明多才且博览群书，一直保持着有礼貌的态度并愿意道歉。对Meyer来说，所谓的帮助依然显得匆忙且不可靠，回首看来毫无益处。

现代 AI 成果并不能生成正确的程序

Meyer 认为，当前生成式 AI 工具确实能够在某些领域出色地完成工作，甚至胜过大部分人类的水平：相关结果来得很快、令人信服，乍看之下甚至不亚于顶级专家，原则上也没什么大问题。它在生成营销手册或粗略翻译网站内容等方面表现出色，并且可用于医学影像分析等其他用途。

但编程的要求完全不同，它对产出程序的正确性有着严格要求。开发者可以容忍一定的错误，但其核心功能必须正确。如果客户下达的指令是买进 100 股微软股票，同时卖出 50 股亚马逊股票，那程序绝不应该执行相反的操作。专业程序员有时候会犯错，这时候就看 AI 助手能不能帮上一把了。

然而，现代 AI 成果并不能生成正确的程序： 它产出的程序实际是从之前见过的大量原有程序中推理而成。这些程序看似靠谱，但却无法完全保障正确性。（这里所说的现代 AI，是将其与早期 AI 区分开来——后者试图通过专家系统等方法重现人类的逻辑思维，但在很大程度上已经失败。如今的 AI 完全通过统计推理实现基本功能。）

Meyer指出，尽管AI助手有惊人的表现，但它们并非逻辑的结果，而是熟练运用文字的能手。大型语言模型具备优秀的表达能力，能够生成看起来几乎没有明显错误的文本。虽然这样的表现对于许多应用场景已经足够，但仍然不适合编程需求。

目前的人工智能可以协助用户生成基础框架，以较可靠的效果提供答案。但也就止步于此了。以目前的技术水平来看，它还完全输出不了能够正常运行的程序。

但这对软件工程行业来说并不是坏事。Meyer 认为，面对种种“编程已死”的宣传，这次实验提醒我们 不管人类程序员还是自动编程助手，都需要规范的约束，并且任何产出的备选程序都有待验证。在最初的惊艳过后，人们终将意识到这种一键式生成程序的能力并没有多大作用。考虑到它往往无法正确实现使用者想要的效果，草草上线的自动化功能也许反而有害。

写在最后

Meyer 并不是唱衰 AI 编程，他认为，审慎的态度或许能帮助我们构建出具备可靠能力的终极 AI 系统。

AI 技术目前仍处于早期发展阶段，但这些障碍并非不可逾越。也许在未来的某一天，生成式 AI 编程工具能够克服这些障碍。为了使其具备真正的编程能力，需要进行深入的规范和验证方面的探讨和研究。

那么问题来了：你是否使用过 AI 编程工具？使用的是哪款工具？准确度如何？这些工具是否真的帮助到了你？欢迎在评论区写下你的使用体验。

原文链接：

抗拒使用 GPT-4 和 Copilot 写代码，拥有 19 年编程经验的老程序员“面试”被淘汰

马化腾称“收紧队形”，腾讯回应；微软发布自己的Linux发行版；OpenAI回应GPT-4 变笨 | Q资讯

向量数据库？不要投资！不要投资！不要投资！

年薪60万的数据分析师工作保不住了？！阿里达摩院研究发现，改用GPT-4成本只需几千元

报告推荐

包含 ChatGPT、Claude、Sage、天工 3.5、文心一言、通义千问、讯飞星火、Moss、ChatGLM、vicuna-13B 等大语言模型产品，四大维度+12个细分维度展现其综合能力，通过技术视角探索大模型产品的编程能力，提升 AGI 创业方向选择、工作实际应用等方面的最新认知。扫码添加InfoQ 小助手，解锁全部资料。

直播预告

AI 大模型时代，架构师面临哪些机遇和挑战？今晚 20:00，Mobvista 技术 VP 蔡超，直播连线科大讯飞 AI 研究院副院长李鑫，为你揭晓答案！更有 ArchSummit 深圳站精彩专题提前剧透，知识豪礼送不停！抓紧预约！

以上就是《编程已死，AI 当立？教授公开“唱反调”：AI 还帮不了程序员》的详细内容，更多关于的资料请关注golang学习网公众号！