美国白宫发布总统令：鼓励AI以安全、可靠的方式发展

专注AIGC领域的专业社区，关注微软OpenAI、百度文心一言、讯飞星火等大语言模型（LLM）的发展和应用落地，聚焦LLM的市场研究和AIGC开发者生态，欢迎关注！

美国华盛顿时间10月30日，美国白宫官网发布了，关于发展安全、可靠和值得信赖的AI（人工智能）的拜登总统行政令。

白宫表示，该行政令为AI安全和保障制定了新标准，保护了用户的数据隐私，促进公平和公民权利，维护消费者和工人的利益，促进技术创新和竞争等。

同时该行政令也建立在之前，与15家公司签订的“生成式AI安全承诺”上，全面推动安全、健康、可靠的生成式AI发展。

这个行政令的发布，对于微软、OpenAI、谷歌、Meta、亚马逊、Anthropic等科技巨头发展ChatGPT等生成式AI产品来说，起到了至关重要的推动和保护作用。

原文地址：https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/?ref=futuretools.io

以下是部分行政令内容

AI安全新标准

随着AI能力的增长,其对美国人安全的影响也在增长。通过这项行政令,拜登总统指示了有史以来，为保护美国人免受AI系统潜在风险而采取的最广泛的行动:

要求开发最强大AI系统的开发者与美国政府分享他们的安全测试结果和其他关键信息。根据国防生产法,令将要求开发任何对国家安全、国家经济安全或公共卫生和安全构成严重风险的基础模型的公司在训练模型时通知联邦政府,并分享所有红队安全测试的结果。这些措施将确保在公司公开发布之前,AI系统是安全、可靠和值得信赖的。

开发标准、工具和测试,以帮助确保AI系统安全、可靠和值得信赖。国家标准与技术研究院将为广泛的红队测试制定严格的标准,以确保在公开发布之前的安全性。国土安全部将对关键基础设施部门应用这些标准,并建立AI安全和安保委员会。

能源部和国土安全部还将解决AI系统对关键基础设施的威胁,以及化学、生物、放射性、核和网络安全风险。总体而言,这些都是任何政府为推进AI安全领域所采取的最重要的行动。

通过制定严格的新生物合成筛选标准,保护免受利用AI工程设计危险生物材料的风险。资助生命科学项目的机构将把这些标准作为联邦资金的条件,从而创造强大的激励,以确保适当的筛选和管理AI可能加剧的风险。

通过建立内容认证和水印的标准和最佳做法,来保护美国人免受AI启用的欺诈和欺骗。

商务部将制定内容认证和水印的指南,以明确标记AI生成的内容。联邦机构将使用这些工具,使美国人很容易知道他们从政府收到的通信是真实的,并为私营部门和世界各地的政府树立榜样。

建立高级网络安全计划,开发AI工具来发现和修复关键软件中的漏洞,以此建立拜登-哈里斯政府正在进行的AI网络安全挑战。总体而言,这些努力将利用AI的潜在游戏改变性网络能力,使软件和网络更加安全。

指示国家安全委员会和白宫幕僚长办公室制定一份有关AI和安全的国家安全备忘录。该文件将确保美国军方和情报部门在任务中安全、道德和有效地使用AI,并将指导行动来反制对手的军事AI使用。

保护美国人隐私

如果没有保障措施,AI可能会进一步威胁美国人的隐私。AI不仅使提取、识别和利用个人数据变得更加容易,而且也加剧了这样做的动机,因为公司使用数据来训练AI系统。

为了更好地保护美国人的隐私,包括来自AI的风险,总统呼吁国会通过两党隐私数据立法,以保护所有美国人,特别是儿童,并指示采取以下行动:

通过优先支持加快开发和使用隐私保护技术来保护美国人的隐私,包括在保护训练数据隐私的同时让AI系统进行训练的尖端技术。

通过资助一个研究协调网络来加强隐私保护研究和技术,例如保护个人隐私的加密工具,该网络将推进快速突破和发展。国家科学基金会还将与该网络合作,促进联邦机构采用领先的隐私保护技术。

通过评估机构如何收集和使用商业上可获得的信息(包括从数据经纪人处获得的信息),并加强联邦机构的隐私指南以考虑AI风险。这项工作将特别关注包含个人身份识别数据的商业上可获得的信息。

制定指南,供联邦机构评估隐私保护技术(包括AI系统中使用的技术)的有效性。这些指南将推进机构保护美国人数据的努力。

确保政务部门负责任地使用 AI

AI可以帮助政府为美国人民提供更好的结果。可以扩大机构的能力来监管、治理和发放福利,并可以削减成本和增强政府系统的安全性。

然而,使用AI可能也存在风险,比如歧视和不安全的决策。为了确保政府部门负责任地部署AI并现代化联邦AI基础设施,采取以下行动:

发布机构使用AI的指南,包括明确的标准来保护权利和安全,改进AI采购并加强AI部署。

通过更快速有效的合同,帮助机构更快、更便宜、更有效地获得指定的AI产品和服务。

通过人事管理办公室、美国数字服务、美国数字团队和总统创新奖学金加速快速招聘AI专业人员,进行政府范围内的AI人才冲击波。机构将为相关领域的各级员工提供AI培训。

捍卫消费者、患者和学生的利益

AI可以为消费者带来实实在在的利益——例如通过使产品更好、更便宜和更广泛地可获得。但AI也提高了伤害、误导或以其他方式伤害美国人的风险。为了在保护消费者的同时确保AI能使美国人获得更多福利,总统指示采取以下行动:

推进医疗保健中AI的负责任使用和开发负担得起的救命药物。

卫生与公共服务部还将建立一个安全计划,以接收有关AI造成的伤害或不安全医疗行为的报告并采取补救措施。

通过在学校创建个性化辅导资源等方式,塑造AI在教育领域的潜力。

本文素材来源白宫官网，如有侵权请联系删除

END