拜登会见PCAST​​，讨论ChatGPT等AI安全问题

专注AIGC领域的专业社区，关注GPT-4、百度文心一言、华为盘古等大语言模型（LLM）的发展和应用落地，以及国内LLM的发展和市场研究，欢迎关注！

4月5日，路透社消息，拜登政府在美国华盛顿白宫会见了PCAST（总统科学技术顾问委员会），商讨快速发展的人工智能给用户和国家安全带来的“风险和机遇”。

拜登指出，人工智能是否存在危险还有待观察。但强调，科技公司有责任确保其产品在公开之前是安全的。同时呼吁国会通过两党隐私立法，以保护儿童并限制科技公司收集所有人的个人数据。

Open AI的ChatGPT在全球范围内火爆出圈后，生成式AI成为科技企业的新一轮竞技场，全球各大科技巨头相继发布类似竞品。但随着应用的深入，其安全、道德、数据隐私等问题受到了各个国家监管机构的极大关注。

在华盛顿举办的“2023年IAPP全球隐私峰会”上，生成式AI专家Nina Schick展示了ChatGPT惊人的用户增长速度，5天用户达到100万，2个月活跃用户突破1亿，全面超过了Instagram、Spotify和Facebook等顶级产品的增长率。因此，这受到了数据监管机构的重点关注。

意大利在3月31日，因为涉嫌侵犯隐私，没有针对未成年过滤系统等理由，下令禁止使用ChatGPT，直到尊重隐私法规为止。

3月30日，欧洲消费者组织 (BEUC) 也呼吁欧盟对ChatGPT 和类似聊天机器人进行展开调查。尽管欧盟正在出台AI管理法案，但BEUC担心法案生效可能需要数年的时间。在这期间，消费者可能会遭遇未受到监管的技术带来的风险和伤害。

欧洲刑警组织则指出，ChatGPT可为非法犯罪行为提供欺诈文案、虚假信息和网络犯罪3种便利条件。需要监管部门对ChatGPT等生成式AI进行有效监管和制定使用规则框架。

英国则直接发布了《支持AI创新的监管方法》政策文件。该文件指出，生成式AI技术将为工作、生活、交通、气象、金融、娱乐、科学研究、医药研发、工业制造等各个领域带来颠覆性技术变革。

但ChatGPT等大语言模型仍处于早期发展阶段，民众对其存在不信任、数据泄露、窃取隐私等安全担忧。英国希望通过此政策文件消除用户的忧虑并降低AI的输出风险，激励企业、民众共同参与到这场AI技术变革中。

前不久，人工智能和数字政策中心（CAIDP ）便对OpenAI及其产品GPT-4进行了投诉，要求美国联邦贸易委员会 (FTC)对其进行调查。

CAIDP表示，OpenAI违反了 FTC法案第5节、FTC AI产品指南和AI治理规则，存在偏见、欺诈，并对隐私和公共安全构成风险。

CAIDP总裁兼总法律顾问Marc Rotenberg认为，联邦贸易委员会有明确的责任调查和禁止不公平和欺骗性的贸易行为。我们认为FTC应该密切关注OpenAI和GPT-4。我们特别要求联邦贸易委员会确定，Open AI是否遵守了联邦机构发布的指南。

总之，ChatGPT无所不能的表现，获得了全球用户的青睐。但伴随着应用的深入，数据隐私、道德底线等问题成为了比性能更严重的问题，需要冷静思考制定安全的监管框架。

关于PCAST

PCAST是联邦政府以外负责向总统和白宫提出科学、技术和创新政策建议的唯一顾问机构。

根据行政命令成立，PCAST是一个独立的联邦咨询委员会，由来自工业界、学术界和非营利组织的杰出人士组成，他们具有广泛的观点和专业知识。

本文素材来源路透社，如有侵权请联系删除

END

加入AIGC开放社区交流群

添加微信：13331022201 ，备注“职位信息&名字”

管理员审核后加入讨论群