美国商务部成立新的工作组，应对ChatGPT等生成式AI风险

添加书签

AIGC开放社区
2023-06-26

专注AIGC领域的专业社区，关注OpenAI、百度文心一言等大语言模型（LLM）的发展和应用落地，关注LLM的基准评测和市场研究，欢迎关注！

近日，美国现任商务部长Gina Raimondo宣布，美国国家标准与技术研究院 (NIST) 将成立一个新的人工智能公共工作组，以应对可以生成文本、图片、音乐、视频等生成式AI带来的风险与挑战。

该工作组还将帮助NIST制定关键指南，以帮助组织解决与生成式AI技术相关的特殊风险。（AI RMF 风险管理框架地址：https://www.nist.gov/itl/ai-risk-management-framework）

Raimondo表示，拜登总统已经明确指示，必须努力利用AI的巨大潜力，同时要管理好生成式AI对美国的经济、国家安全和社会构成的各种风险。最近发布的 NIST人工智能风险管理框架可以最大限度地减少生成式AI造成的潜在危害。

在该框架的基础上，这个新的公共工作组将帮助为那些正在开发、部署和使用生成式AI并有责任确保其可信度的组织提供必要的指导。

美国商务部官网信息

该公共工作组将招募志愿者以及来自私营企业和公共部门的AI专家，将重点关注与AI相关的风险，加速生成式AI以安全的方式实现场景化落地和产品迭代。

美国商务部负责标准与技术的副部长兼NIST主任 Laurie E. Locascio表示，考虑到生成式AI拥有前所未有的发展速度、市场规模和潜在商业影响，以及它给许多行业和社会带来更广泛变革的潜力，这个新小组的成立显得尤为及时。我们希望识别和开发工具来更好地理解和管理这些风险。

NIST为新的工作组制定了短期、中期和长期三个目标。初期目标，将作为收集指导意见的工具，概述如何使用NIST 人工智能风险管理框架（AI RMF），来支持生成式AI技术的开发。该指南称为“概要文件”，将支持和鼓励使用 AI RMF 来解决相关风险。

中期目标，该工作组将支持NIST在生成式AI相关的测试、评估等技术方面的工作。同时包括支持 NIST 参加 “2023 DEF CON AI Village”，这是运行时间最长、规模最大的计算机安全和黑客会议。

长期目标，该小组将探索特定的机会，以提高有效利用强大的生成式AI技术来解决，在健康、环境和气候变化等领域面临的主要挑战的可能性。该小组可以帮助确保在AI应用程序开发和使用之前、期间和维护等管理各种风险。

有兴趣加入NIST新成立的生成式 AI 公共工作组的人员，可以在7月9日之前填写申请表格（地址：https://docs.google.com/forms/d/e/1FAIpQLSdbEDFgGfLTnmGjMqM95wzvhPWUlN6rGdb-hv1VWm4QIq_r9w/viewform）。

参与者将有机会选择帮助开发 AI RMF 的生成式 AI 配置文件，作为对团体贡献的一部分。此外，美国人工智能咨询委员会向总统提交了第一份报告，并确定了该委员会未来两年的重点工作内容。（报告地址：https://www.ai.gov/naiac/）

关于NIST

NIST的全称为National Institute of Standards and Technology（美国国家标准与技术研究所），成立于1901年，是美国的一个联邦技术机构，隶属于美国商务部。

NIST的主要任务是推动美国的创新和工业竞争力，通过提供科技、计量和标准等领域的领导力。为实现这一目标，NIST进行了大量的研究，并为各种产品和服务设定了技术标准。

NIST的工作覆盖许多不同的科学和工程领域，包括物理学、材料科学、化学、生物学、工程、信息技术等。此外，NIST还负责制定和维护一系列重要的测量标准，包括时间、温度、长度、电力等。

本文素材来源美国政务官网，如有侵权请联系删除

END

即将举行的活动