AI失业潮已来，程序员职业是否真的会消失？

最近，有消息称OpenAI将发布突破性的多模态机器学习模型GPT-4o。关于人工智能引发全球性失业潮的报道再次占据各大媒体头条。

国际货币基金组织总经理克里斯塔利娜·格奥尔基耶娃博士警告称，随着企业大量采用人工智能技术，全球劳动力市场将遭遇“海啸”，人工智能可能会消灭全球近一半（40%）的工作岗位以及美国和英国等发达经济体一半以上（60%）的工作岗位。 克里斯塔利娜·格奥尔基耶娃博士在一次演讲中指出，人工智能的发展将对各行各业产生深远影响。尽管人工智能有助于提高生产效率和创新能力，但也将导致大规模的岗位消失。她强调，政府和企业需要采取措施来帮助受

英特尔首席执行官帕特·基辛格上个月表示，人工智能有一天可能会催生单人独角兽公司（估值超过10亿美元的只有一名员工的企业）。如果你认为“单人独角兽”特指脑力工作者中的“巷王”那就大错特错了，因为特斯拉、OpenAI以及大量中国企业的“具身智能”人形机器人市场已经爆发，未来护理、司机、工人、士兵等体力工作者同样面临业风险。

目前，业界普遍认为医生、律师、教师、程序员（包括网络安全人才）等知识工作者是AI大潮最先面对失业风险的人群，但事实真的如此吗？

近年来全球科技行业职员的重灾区——程序员职业为例，AI确实带来了巨大的编码效率提升，但与此同时，AI也产生了两个极为严重且难以解决的新难题，使其不能完全替代人类程序员。首先是软件开发/网络安全行业陷入危险境地。这意味着软件开发过程中可能会有安全漏洞存在。其次，AI算法和自动化技术的推广带来了就业压力，因为许多任务可以由机器完成，导致程序员的需求减少。然而，即使AI可以自动化大量的重复性工作，人类程序员仍然具有独特的创造力和判断力，这些是AI无法取代的。因此，人工智能技术和人类程序员应该合作，共同促进科技行业的发展。

• AI屎山。AI编写的代码质量不佳且不安全，比人类编写的代码漏洞多。
• AI污染。AI编写的代码已经“决堤”并快速污染在线代码库和搜索引擎（搜索结果）。

AI屎山

根据Veracode最新发布的软件安全报告，AI生成代码的激增将导致安全债务问题恶化并对软件供应链构成重大风险。报告指出：“尽管人工智能为软件开发带来了速度和效率，但在代码安全方面表现不佳，GitHub Copilot生成的代码中有36%存在安全漏洞。” 根据报告，AI生成的代码可能会导致以下安全问题： 1. 安全漏洞：AI生成的代码可能存在逻辑错误、缓冲区溢出、代码注入等安全漏洞，使软件易受攻击。 2. 不安全的第三方库：AI可能会选择使用存在安全漏洞或已过时的第三方库，进一步增加软件的风险。 3. 代码质量问题：由于AI缺乏对软件安全的深入理解，生成的代码可能存在低效、冗余、不可

斯坦福大学的一项研究（论文链接在文末）发现，使用人工智能帮助手编写的代码比“手工代码”的安全性差很多，而人工智能工具还会导致用户对其中代码的安全性过于自信。 研究人员对来自开源代码库的数千个代码片段进行了分析，其中一部分是由开发者手动编写的，另一部分是使用人工智能工具生成的。结果显示，由人工智能生成的代码存在着更多的安全漏洞和问题。 这种现象的原因可能是人工智能工具缺

例如，在SQL注入漏洞测试中，使用AI辅助的测试参与者编写的代码安全性明显差异36%的使用人工智能助手的测试参与者编写了容易受到SQL注入攻击的代码，而不使用AI辅助的对照组的比例仅为7%。

在现代软件开发中，类似Github Copilot这样的人工智能代码助手能够大大提高开发人员的开发效率和生产力，并降低开发技术门槛。然而，缺乏经验的开发人员可能会轻易相信人工智能助手的输出内容，从而引入安全漏洞风险。 尽管人工智能助手可以轻松信任人工智能助手的输出内容，从而引入安全漏洞风险。然而，了解和理解代码是一个开发人员必须具备的技能，不能完全依赖于人工智能助手的输出。开发人员应该经过充分的培训和实践，具备必要的开发经验，以正确

Veracode的报告指出，人工智能生成代码更倾向于满足“正确性”而不是安全性，并且在某些情况下，可能会创建无意中使用户感到困惑的代码。

AI污染

如果说AI屎山影响的只是具体项目，那么“AI污染”对整个软件开发生态来说则是灾难性的。所谓AI污染，是指AI生成的劣质代码污染代码库和搜索引擎结果。例如，近日大量开发人员投诉称谷歌搜索引擎的搜索结果被来自Pulumi AI（一种在线人工智能编码问答工具）的AI生成的错误代码“霸榜”。

开发人员Arian van Putten在上周末的社交媒体帖子中写道：“事情发生了。排名第一的谷歌搜索结果居然是Pulumi大语言模型编写的（页面上也包含免责声明），并且凭空捏造了一个不存在的AWS功能。这简直是灾难的开始。”

该问题最早由开发者Pete Nykänen发现，他在2024年3月21日在GitHub Issues报告中指出Pulumi AI代码仓库在某些代码关键词的搜索结果中排名正快速提升：“今天我搜索了各种与基础设施代码相关的关键词，并注意到一个令人担忧的趋势，即Pulumi AI的答案被谷歌抓取并获得较高排名，这种情况在多次搜索中复现，并且随着时间的推移可能会变得更加糟糕。”

其实，AI污染的不仅仅是代码，还包括文字、图片、视频等所有AI可以批量生产/伪造的内容。密码学家布鲁斯施奈尔近日撰文指出，随着生成式人工智能技术的野蛮生长和泛滥，互联网的原生优质内容生态正在被大规模生产的人工智能合成内容充斥和占领，如果互联网巨头不及时采取行动，我们可能会失去我们所知的互联网，并陷入一个由AI生成的垃圾内容主导的黑暗时代。

结论

“AI屎山”和“AI污染”这两大难题意味着，AI消灭一部分初级和重复性开发岗位的同时，将创造大量新的岗位，例如AI开发、AI应用、AI安全、AI监管和治理。此外，软件架构师、系统工程师、DevOps工程师、物联网解决方案架构师、全栈开发人员等高级IT人才的能力和薪酬有望因AI的加持而持续上涨。

总之，对于开发人员来说，这是最坏的时代，也可能是最好的时代。