抢在美国前面，欧盟就全球首部AI监管法案达成临时协议，影响几何？

经历了37个小时“马拉松式”谈判后，欧盟委员会、欧洲理事会和欧洲议会达成共识，就人工智能（AI）协调规则提案，即《人工智能法案》达成了临时协议。

欧盟的《人工智能法案》是全球首部涉及人工智能监管的法案。

9日，欧洲理事会发布新闻声明证实了上述消息，并称该法规草案旨在确保欧洲市场并在欧盟使用的人工智能系统安全，并尊重基本权利和欧盟价值观。同时，该提案还旨在刺激在欧洲的人工智能投资和创新。

欧盟内部市场委员布雷东在社交媒体上表示：“欧盟成为第一个为人工智能使用设立明确规则的地区。《人工智能法案》不仅是一本规则手册，也将成为欧盟初创企业和研究人员引领全球人工智能竞赛的助推器。”

按照目前临时协议中披露的内容，未来违反《人工智能法案》的公司可能面临高达其全球收入7%的罚款，具体取决于违规情况和违反规则的公司规模。

据悉，此次通过的临时协议是为了确保能够在2024年5月欧洲议会选举前顺利通过这项立法。一旦通过，还将需要两年时间才能完全生效。

这部《人工智能法案》会对人工智能模型的开发、人工智能初创企业造成何种影响？又将如何监管OpenAI的ChatGPT和谷歌的Bard等生成式人工智能工具？

主要监管内容

根据欧洲理事会的解释，此次法案的中心方法论是根据人工智能对社会造成危害的能力，遵循“基于风险”（risk-based）的方法来监管人工智能：风险越高，规则越严。

欧盟方面希望，作为全球首个此类立法提案，该法案可以像《通用数据保护条例》（GDPR）一样为其他司法管辖区的人工智能监管制定全球标准，从而在世界舞台上推广欧洲的技术监管方式。

2021年4月开始，欧盟方面就酝酿对人工智能行业的监管，提出《人工智能法案》提案的谈判授权草案，将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。不过，在酝酿过程中由于ChatGPT的“横空出世”，欧盟方面对该法案提案进行了修改。

第一财经记者看到，相比于以前的提案，此次临时协议的主要新内容包括：针对未来可能导致系统性风险的高影响力通用人工智能模型以及高风险人工智能系统的治理体系；一个修订过的管理体系，该体系在欧盟层面具有一定执行权；一份扩大了的禁止清单，但执法机构可以在遵守相关措施的同时，在公共场所使用远程生物识别技术；以及在人工智能系统投入使用之前，高风险人工智能系统的部署者有义务接受基本权利影响评估，从而更好地保护公民相关权利。

同时，按照“风险越高，规则越严”的原则，该临时协议规定，仅呈现出有限风险的人工智能系统将受到非常轻微的透明度义务的约束，例如披露内容是人工智能生成的，以便用户可以就进一步使用作出明智的决定。各种高风险人工智能系统将获得授权，但要遵守一系列要求和义务才能进入欧盟市场。

不过，对于人工智能的某些用途，欧盟方面认为，其风险是不可接受的，因此，这些系统将被欧盟禁止。

欧盟方面给出了详细说明。例如，此次达成的临时协议禁止认知行为操纵、从互联网或闭路电视录像中无目的地抓取面部图像、在工作场所和教育机构中实施情绪识别、社会评分、用于推断敏感数据的生物识别分类，以及一些针对个人的预测性警务案例等。

值得注意的是，临时协议纳入了对人工智能基础模型的限制，但对开源模型给予了广泛的豁免。

开源模型是使用开发人员可以免费使用的代码开发的，可以根据自己的产品和工具进行修改。 此举可能有利于游说反对该法律的欧洲开源人工智能公司，包括法国的Mistral和德国的Aleph Alpha等。

然而，一些被归类为具有“系统性风险”的专有模型将受到额外义务的约束，不过欧洲委员会没有在声明中具体说明什么标准会触发更严格要求。

立法跑赢美国

观察人士认为，欧洲此次制定法律进一步巩固了在科技监管方面的地位。

该法案主要发起者之一、欧洲议会议员图多拉奇(Dragos Tudorache）表示，自起草立法的早期阶段以来，《人工智能法案》的制定者就“仔细考虑”了对世界各国政府的影响。 他说，他经常听到其他立法者在开始起草自己的人工智能法案时正在研究欧盟的做法。

“这项立法将代表许多其他司法管辖区的标准、模式。”他说，“这意味着我们在起草它时必须承担额外的谨慎义务，因为它将对许多其他司法管辖区产生影响。”

实际上，在美国国会多年无所作为之后，欧盟的各项科技法案对美国硅谷公司产生了广泛的影响。

譬如，欧洲的GDPR迫使微软等一些公司彻底改革他们处理欧洲境外用户数据的方式。然而，有人担心欧盟频繁制定在科技方面的法律，令在欧洲地区的合规措施成本高昂，阻碍了小企业的发展。

与此同时，经过数月针对人工智能技术的听证会和论坛后，美国国会仍处于制定有关人工智能的两党立法的早期阶段。

有国际贸易法领域资深专家对第一财经记者表示，拜登政府上台之初就表示要“整顿”科技行业，结果“板子高高举起轻轻落下”，第一任期都快结束了，既没有真正反垄断，也没有搞规则监管立法，这也体现了拜登政府的一种态度。

在此情况之下，欧洲人工智能界的担忧更为强烈，有不少人士都发声表示，新立法可能会阻碍技术创新，从而为人工智能研究和开发已经更加先进的美国和英国带来进一步优势。

“有一些创新将不再有可能性，或在经济上不再可行。” 德国人工智能发展促进中appliedAI Initiative董事总经理利布尔(Andreas Liebl)表示：“它（人工智能法案）只会让你在全球竞争中放慢脚步。”

此前，欧洲工商管理学院（INSAED）的决策科学和技术管理教授埃夫根尼奥（Theos Evgeniou）在接受第一财经记者采访时表示，GDPR确实导致小公司成本高昂。这些公司大多是欧洲科技公司。它最终帮助了美国的大公司。

“从某种意义上说，这与欧洲想要做的事情恰恰相反。”埃夫根尼奥说，但监管本身是一个不断学习的过程，其目标不是为了监管而监管，监管和创新都是为了更好地造福世界。