人工智能公司将被要求向美国政府提交安全测试结果

拜登政府宣布将推出新的人工智能规定，要求开发人员公开主要人工智能系统的安全测试结果。

根据这些新规定，科技公司需要在使用大量计算能力训练人工智能模型时向政府发出通知。这一举措将确保美国政府能够获取谷歌、AWS(亚马逊网络服务)和OpenAI等公司的敏感数据，以便更好地监督和管理这些公司在人工智能领域的活动。

美国国家标准与技术研究院正在努力确保人工智能工具在发布前经过安全可靠的标准审查。同时，商务部将发布指南，要求为人工智能生成的内容添加水印，以便清晰区分真实内容和人工智能生成的内容。

在接受采访时，白宫人工智能特别顾问Ben Buchanan表示，政府希望在向公众发布人工智能系统之前确保其安全性。总统已经明确表示，公司必须满足这一标准。

美国政府正在把人工智能作为主要经济和国家安全问题加以关注。鉴于围绕生成式人工智能的炒作和市场投资所带来的不确定性，这并不奇怪。

三个月前，美国总统签署了一项旨在管理快速发展的技术的行政命令。该行政命令规定了对人工智能发展的指导原则，其中包括既定的安全标准。

白宫人工智能委员会近期举行了会议，对审查行政命令的执行情况进行了讨论。会议中涵盖了来自多个美国联邦部门和机构的高级官员。该委员会在一份声明中表示，他们在努力保护美国人免受人工智能系统潜在危害方面取得了实质性进展。此外，拜登政府还积极与欧盟等国际盟友合作，共同制定跨境规则和法规，以管理这一技术。

新规定要求美国云公司确认外国实体是否在美国数据中心访问数据以训练人工智能模型。美国政府提出"了解你的客户(KYC)"提案，要求云计算公司核实外国用户的身份信息。

新规定可能对亚马逊和谷歌等美国科技公司造成额外挑战，要求他们采集外国客户的姓名和IP地址，并向政府汇报可疑活动，同时需要定期进行合规认证。

虽然自我报告规定可以为美国的利益提供一些保护，并鼓励人工智能开发者更加谨慎，但目前尚不清楚政府将如何处理那些选择不准确报告或根本不报告的人。获取敏感数据也存在法律和道德方面的担忧。