美国科技巨头纷纷加入，AI风险备受关注

本篇文章主要是结合我之前面试的各种经历和实战开发中遇到的问题解决经验整理的，希望这篇《美国科技巨头纷纷加入，AI风险备受关注》对你有很大帮助！欢迎收藏，分享给更多的需要的朋友学习~

9月12日，美国白宫发布声明称，美国商务部长雷蒙多等政府高官将在白宫召集人工智能（AI）行业高管，宣布Adobe、Cohere、IBM、英伟达、Palantir、Salesforce、Scale AI和 Stability八家公司承诺采取自愿监管措施管理AI技术开发风险，包括在推出前展开安全测试、构建将安全放在首位的系统、为AI生成内容添加数字水印等。

承诺聚焦在三方面

根据白宫声明，本次自愿承诺包括三个方面：

第一，在向公众推出产品之前确保产品安全。八家公司承诺在发布AI系统之前，将对其系统进行内部和外部安全测试。这项测试将部分由独立专家进行，旨在防范人工智能风险的一些最重要的来源，如生物安全和网络安全，以及其更广泛的社会影响。此外，公司还承诺在整个行业以及与政府、民间社会和学术界共享有关管理人工智能风险的信息。包括安全最佳实践、有关规避保障措施的企图的信息以及技术合作。

重写后的内容：其次，我们要构建以安全为首要考虑的系统。公司承诺投资于网络安全和内部威胁保障措施，以保护专有和未发布的模型权重。这些模型权重是人工智能系统中最关键的部分，八家公司一致认为，在发布模型权重之前，必须预先考虑和评估安全风险。此外，公司还致力于促进第三方发现和报告其人工智能系统中的漏洞，以便在人工智能系统发布后，如果出现问题，能够快速发现和修复这些问题

重写内容如下：第三点是赢得公众的信任。相关公司致力于开发强大的技术机制，以确保用户知道何时是由人工智能生成的内容，例如通过水印系统。这一举措促进了人工智能的创造力和生产力的蓬勃发展，同时也减少了欺诈和欺骗的风险。此外，相关公司承诺公开报告其人工智能系统的功能、局限性以及适当和不当使用的领域。这些报告将包括安全风险和社会风险，例如对公平和偏见的影响

八家公司还承诺优先研究人工智能系统可能带来的社会风险，包括避免有害的偏见和歧视，以及保护隐私。人工智能的记录显示了这些危险的潜在规模和普遍性，这些公司承诺推出减轻这些危险的人工智能

重新召集AI企业自愿监管

这不是白宫第一次召集人工智能企业进行自愿监管。

今年5月，美国总统拜登召集了四家处于人工智能创新前沿的美国公司的首席执行官——谷歌、Anthropic、微软和OpenAI，强调推动负责任、值得信赖和道德创新的重要性，并采取保障措施，减轻人工智能对个人和社会的风险和潜在伤害。应这些公司的要求，白宫随后举办了一次会议，重点关注网络安全威胁和最佳实践。

今年7月21日，白宫召集人工智能七大公司做出一系列保护用户的自愿承诺，包括同意进行安全测试，采用新的水印系统以告知用户内容是人工智能生成的。

这七家公司是亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI，它们的代表与美国总统拜登举行了会面，并同意白宫提出的一系列要求，以解决人工智能带来的许多风险。

具体来看，这些公司同意进行安全测试，部分由独立专家进行；对偏见和隐私问题进行研究；与政府和其他组织共享有关风险的信息；开发应对气候变化等社会挑战的工具；采取识别AI生成材料的透明度措施

七家公司都表达了自愿签署协议的意愿，这些承诺没有具体的截止日期，目前不会产生重大的法律后果。此外，每家公司都可以有不同的解释。然而，这些承诺的执行将在很大程度上受到美国联邦贸易委员会的监督。一位联邦贸易委员会官员表示，违反公共承诺可能被视为欺骗行为，这将与现有的消费者保护法相冲突

中国政府主导监管人工智能

今年7月，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下简称“《办法》”）。该办法已于8月15日起施行。其时，国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

《办法》强调，近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。

《办法》提出，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。提出了促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求。规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。此外，还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。

国家互联网信息办公室有关负责人指出，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。

责编：王昭丞

需要重新写作的内容是：校对：高源

版权声明

未经书面授权，任何单位及个人不得转载证券时报各平台的原创内容。我社保留追究相关行为主体法律责任的权利

本篇关于《美国科技巨头纷纷加入，AI风险备受关注》的介绍就到此结束啦，但是学无止境，想要了解学习更多关于科技周边的相关知识，请关注golang学习网公众号！