监管ChatGPT,首个AI法案立法在欧盟内部迈出第一步
添加书签![](https://static-img-job.rpa-cn.com/www.open-cx.com/2023/05/20230514110211764.jpeg)
专注AIGC领域的专业社区,关注GPT-4、百度文心一言、华为盘古等大语言模型(LLM)的发展和应用落地,以及国内LLM的发展和市场研究,欢迎关注!
欧洲议会正就全球首部人工智能(AI)法案展开大规模协商,光修正案就有一千多项,创下了欧洲议会史上之最。
当地时间11日,欧洲议会内部市场委员会和公民自由委员会以84票赞成、7票反对和12票弃权通过关于《AI法案》的谈判授权草案,其中包含了有关面部识别、生物识别监控和其他AI应用使用的新规则,并提出了严格监管ChatGPT等AI工具的新思路。
领导上述法案制定的欧洲议会议员土多拉舍(Dragoş Tudorache)表示,欧盟的《AI法案》是全球首个此类立法,“欧盟可以在全球范围内带头使AI以人为本,(变得)值得信赖和安全”。
“避免建立一个基于人工智能的受控社会”
欧盟于2021年首次提出《AI法案》,旨在制定管理使用AI系统的任何产品和服务的规则。
第一财经记者看到,目前的提案采取了分级管理的思路,即基于AI的四个等级(从风险最小到不可接受),进行区别管理,风险较高的应用程序将面临更严格的规则,需要更高的透明度和准确性。
欧洲议会认为,对人类安全造成不可接受风险的AI系统将被严格禁止,包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统。
譬如,用于预先确定犯罪发生地点和犯罪者的警务工具可能将被禁止,除打击和预防特定恐怖威胁外,远程面部识别技术也将被禁止。
《AI法案》的联合推动人之一、欧洲议会意大利议员伯尼菲(Brando Benifei)表示,这样做的目的是“避免建立一个基于人工智能的受控社会”。“我们认为这些技术可以用于好的地方,也可以用来做坏事,风险太高了。”他补充道。
此外,虽然原始提案并未详细涵盖聊天机器人,但由于在立法期间,ChatGPT横空出世,立法者添加了一项修正案,将 ChatGPT和类似的生成式AI与高风险系统置于同一级别。
具体而言,此次欧洲议会的议员大幅修改了清单,以禁止侵入性和歧视性地使用AI系统的行为,
例如:在公共场所“实时”使用的远程生物特征识别系统;“事后”远程生物识别系统,不过执法机关为起诉严重罪行且取得司法授权后例外;使用如性别、种族、公民身份、宗教、政治取向等敏感数据的生物识别分类系统;基于分析、位置或过去犯罪行为的预测性警务系统;执法、边境管理、工作场所和教育机构中的情绪识别系统,以及不分青红皂白地从社交媒体或闭路电视录像中抓取生物识别数据来创建面部识别数据库等行为。
针对ChatGPT等生成式AI专门监管
此次,欧洲议会议员扩大了AI高风险领域的分类,将对人们健康、安全、基本权利或环境的危害考虑在内。
欧洲议会还有意针对ChatGPT等生成式 AI设立专门监管制度,大致与高风险系统须遵守的义务相同。
欧洲议会提出像ChatGPT这样的生成基础模型必须遵守额外的透明度要求,比如披露内容是由AI生成的,设计模型以防止其生成非法内容,以及发布用于训练的受版权保护数据的摘要。
此外,欧洲议会的议员们还希望提高欧洲公民对AI系统提出投诉的权利,并获得对基于严重影响其权利的高风险AI系统决策的解释权利。
本周欧洲议会所达成的协议只是欧盟内部漫长而艰巨的程序的第一步,该程序可能需要数年时间,才能让法案成为欧盟27个成员国的正式法律。
根据目前的时间表,该法案将于6月提交欧洲议会全体表决,之后欧洲议会、欧盟理事会和欧盟委员会的代表将在“三方”会谈中商定最终条款。在条款最终确定且该法案成为法律后,将有大约两年的宽限期。
知情人士表示,成员国和立法者可能会就在有限情况下,如存在恐怖威胁时,是否可以接受实时面部识别AI应用展开旷日持久的讨论。
伯尼菲表示,对实时生物识别技术的限制是一个需要“艰难”谈判的领域,欧盟可能“需要找到解决方案”。
他也乐观表示,各个成员国会支持欧洲议会关于对生成AI模型进行立法的提议。
本文来源第一财经,如有侵权请联系删除
END