严格监管ChatGPT，欧盟欲出台全球首个AI法案

商密君

欧洲议会正就全球首部人工智能（AI）法案展开大规模协商，光修正案就有一千多项，创下了欧洲议会史上之最。

当地时间 11 日，欧洲议会内部市场委员会和公民自由委员会以 84 票赞成、7 票反对和 12 票弃权通过关于《AI 法案》的谈判授权草案，其中包含了有关面部识别、生物识别监控和其他 AI 应用使用的新规则，并提出了严格监管 ChatGPT 等 AI 工具的新思路。

领导上述法案制定的欧洲议会议员土多拉舍（Dragoş Tudorache）表示，欧盟的《AI 法案》是全球首个此类立法，“欧盟可以在全球范围内带头使 AI 以人为本，（变得）值得信赖和安全”。

“避免建立一个基于人工智能的受控社会”

欧盟于 2021 年首次提出《AI 法案》，旨在制定管理使用 AI 系统的任何产品和服务的规则。

目前的提案采取了分级管理的思路，即基于 AI 的四个等级（从风险最小到不可接受），进行区别管理，风险较高的应用程序将面临更严格的规则，需要更高的透明度和准确性。

欧洲议会认为，对人类安全造成不可接受风险的 AI 系统将被严格禁止，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统。

譬如，用于预先确定犯罪发生地点和犯罪者的警务工具可能将被禁止，除打击和预防特定恐怖威胁外，远程面部识别技术也将被禁止。

《AI 法案》的联合推动人之一、欧洲议会意大利议员伯尼菲（Brando Benifei）表示，这样做的目的是 “避免建立一个基于人工智能的受控社会”。“我们认为这些技术可以用于好的地方，也可以用来做坏事，风险太高了。” 他补充道。

此外，虽然原始提案并未详细涵盖聊天机器人，但由于在立法期间，ChatGPT 横空出世，立法者添加了一项修正案，将 ChatGPT 和类似的生成式 AI 与高风险系统置于同一级别。

具体而言，此次欧洲议会的议员大幅修改了清单，以禁止侵入性和歧视性地使用 AI 系统的行为，例如：在公共场所 “实时” 使用的远程生物特征识别系统；“事后” 远程生物识别系统，不过执法机关为起诉严重罪行且取得司法授权后例外；使用如性别、种族、公民身份、宗教、政治取向等敏感数据的生物识别分类系统；基于分析、位置或过去犯罪行为的预测性警务系统；执法、边境管理、工作场所和教育机构中的情绪识别系统，以及不分青红皂白地从社交媒体或闭路电视录像中抓取生物识别数据来创建面部识别数据库等行为。

针对 ChatGPT 等生成式 AI 专门监管

此次，欧洲议会议员扩大了 AI 高风险领域的分类，将对人们健康、安全、基本权利或环境的危害考虑在内。

目前，欧洲议会还有意针对 ChatGPT 等生成式 AI 设立专门监管制度，大致与高风险系统须遵守的义务相同。

欧洲议会还提出，像 ChatGPT 这样的生成基础模型必须遵守额外的透明度要求，比如披露内容是由 AI 生成的，设计模型以防止其生成非法内容，以及发布用于训练的受版权保护数据的摘要。

此外，欧洲议会的议员们还希望提高欧洲公民对 AI 系统提出投诉的权利，并获得对基于严重影响其权利的高风险 AI 系统决策的解释权利。

本周欧洲议会所达成的协议只是欧盟内部漫长而艰巨的程序的第一步，该程序可能需要数年时间，才能让法案成为欧盟 27 个成员国的正式法律。

根据目前的时间表，该法案将于 6 月提交欧洲议会全体表决，之后欧洲议会、欧盟理事会和欧盟委员会的代表将在 “三方” 会谈中商定最终条款。在条款最终确定且该法案成为法律后，将有大约两年的宽限期。

知情人士表示，成员国和立法者可能会就在有限情况下，如存在恐怖威胁时，是否可以接受实时面部识别 AI 应用展开旷日持久的讨论。

伯尼菲表示，对实时生物识别技术的限制是一个需要 “艰难” 谈判的领域，欧盟可能 “需要找到解决方案”。

他也乐观表示，各个成员国会支持欧洲议会关于对生成 AI 模型进行立法的提议。

欧美监管思路不同

除了欧洲，全球各地越来越担心快速发展的 AI 技术可能被滥用。上周，美国联邦贸易委员会发出警告，称 “正在密切关注公司如何选择使用 AI 技术，包括新的生成人工智能工具，以及对消费者产生实际和实质性影响的方式”。

5 月 4 日，拜登政府则宣布对 “值得信赖的” 人工智能增加新投资。同日，美国副总统哈里斯以及多位白宫高级官员与谷歌、微软、OpenAI 和 AI 初创公司 Anthropic 的首席执行官会面，集中讨论当前和近期的技术发展所带来的风险。

作为潜在监管的第一步，美国商务部在 4 月 11 日已就相关措施正式公开征求意见，包括新 AI 模型在发布前是否应经过认证程序。征求意见期限为 60 天。

不过，尽管华盛顿遭到了 AI 威胁论的轰炸，但他们担心禁用或停止 AI 的部署，可能让美国在 AI 研究上失去竞争优势。

投资咨询公司 BCA Research 美国资产部首席策略师唐克尔（Irene Tunkel）对第一财经记者表示：“为了使美国保持相对于世界其他国家的技术优势，美国政府将需要利用政策和财政支出来促进 AI 在多年内的增长。我们预计，（美国）更多的政府资源将被分配给 AI，包括国防和非国防性质的资源，而监管环境将促进整个经济领域在公共和私营部门越来越多地采用 AI。”

同时，她称，虽然近年来美国联邦层面和州层面提出了许多 AI 领域的立法，但更多的立法并不一定意味着更紧的监管。“这些立法有一个基本的相似性。目的是促进美国公共和私营部门的 AI 的发展和使用，同时也有相关指导方针，保护 AI 的消费者和用户。” 她说。