FTC针对ChatGPT的数据安全、虚假信息等展开调查

专注AIGC领域的专业社区，关注OpenAI、百度文心一言等大语言模型（LLM）的发展和应用落地，关注LLM的基准评测和市场研究，欢迎关注！

近日，华盛顿邮报消息，美国联邦贸易委员会 (FTC)已对OpenAI展开广泛调查，包括ChatGPT是否存在窃取个人数据隐私、泄露用户数据和非法搜集数据等，从而违反了消费者保护法。

华盛顿邮报表示，这是OpenAI在美国面临最大监管机构的调查。将有利于生成式AI行业建立规范化的数据安全策略，以及规范行业准则。但OpenAI若违反了消费者保护法，将面临巨额罚款。

FTC被誉为“美国硅谷警察”，曾对亚马逊、Meta、Twitter等科技巨头展开过调查，并开出巨额罚款。

FTC发布的调查文件

根据FTC发布的一份长达20页调查报告显示，要求OpenAI提供有关如何解决AI模型相关风险的记录；要求OpenAI提供收到的所有投诉的详细描述，这些投诉涉及ChatGPT对用户做出的虚假、误导、贬低或有害的内容；

要求OpenAI披露今年3月份出现的一次用户数据泄露事件，当时ChatGPT存在一个错误允许一些用户查看与支付相关的信息，以及其他用户聊天记录中的一些数据。

此外，FTC还对OpenAI的数据搜集策略，是否存在不公平或欺骗性行为，导致消费者名誉受损。

对于此次调查行动，FTC拒绝发表任何评论。而OpenAI联合创始人兼首席执行官 Sam Altman在社交平台上表示，将全面配合FTC的调查。

FTC为何调查OpenAI

早在今年3月30日， FTC接到人工智能和数字政策中心（CAIDP ）的投诉，要求对OpenAI及其产品GPT-4进行调查。

CAIDP表示，OpenAI违反了 FTC法案第5节、FTC AI产品指南和AI治理规则，存在偏见、欺诈，并对隐私和公共安全构成风险。要求FTC对Open AI展开调查并暂停GPT产品的商业部署，直到该公司遵守FTC对AI产品的指导方针。

CAIDP总裁兼总法律顾问Marc Rotenberg表示，FTC有明确的责任调查和禁止不公平和欺骗性的贸易行为。我们认为FTC应该密切关注OpenAI和GPT-4。我们特别要求FTC确定，Open AI是否遵守了联邦机构发布的指南。

OpenAI积极构建数据安全方法

为了提升ChatGPT等生成式AI产品的安全，今年5月25日，OpenAI宣布旗下的非营利组织 OpenAI, Inc.启动一项“AI民主”计划。投资10笔10万美元共计100万美元资金，以资助实验建立一个民主程序，来决定AI系统在法律规定的范围内应遵循哪些规则。

OpenAI表示，ChatGPT等AI将对社会产生巨大影响和经济效益。但AI在提供商业价值的同时应该遵守法律框架、尊重个人数据隐私等，需要更复杂和适应性更强的行为准则。希望通过本次计划邀请世界各地的团队来开发民主过程的概念验证。

该过程可以回答有关人工智能系统应遵循哪些规则的问题。希望从这些实验中吸取教训，并将它们作为未来全球化技术推广的安全规则基础。

本文素材来源华盛顿邮报，如有侵权请联系删除

END