欧盟的人工智能法案距离生效只差临门一脚。

当地时间周三,欧洲议会以499票赞成、28票反对的压倒性结果通过了《人工智能法案》草案,为最终落地生效扫清了一个关键障碍。接下来的程序将进入成员国、欧洲议会和欧盟委员会的三方谈判。在此过程中,最终文本的法案可能会有一些措辞方面的改变。法案的最终审批预计将在今年年底前通过。


【资料图】

不过,这些规则距离正式生效还有一段时间。法案最终审批通过后,将会为企业和组织留出一段宽限适应期,通常为两年左右。

值得注意的是,为了填补法案正式生效前的这段空白期,欧洲和美国正在联合起草一份自愿行为准则。双方官员在5月底承诺将在“几周内”起草,并可能扩大到其他“志同道合的国家”。

这是全球首个全面的人工智能规则法案。该法案在2021年就已着手制定,但是随着去年底生成式人工智能的快速发展,制定过程更加紧迫。针对新情况,周三通过的法案做了部分调整。

法案内容

这项法案的框架在2021年首次提出,旨在对任何使用人工智能系统的产品或服务进行管理。根据风险的高低,人工智能系统的使用场景被划分为四个级别:低风险、有限风险、高风险和不可接受的风险。

对于风险较高的应用程序,如针对儿童的招聘或技术,将面临更严格的要求,包括提高透明度和使用准确的数据等。违反规则的应用程序可能被要求下架,具体执行尺度将取决于欧盟27个成员国自身的判断。

在最严重的情况下,违规行为可能会被处以最高4000万欧元的罚款,或公司全球年营业收入的7%左右。如谷歌和微软这样体量的科技巨头而言,罚款可能高达数十亿欧元。

欧盟委员会表示,大多数人工智能系统,如视频游戏或垃圾邮件过滤器,都属于低风险或无风险类别。

法案对人工智能的使用场景划定了禁忌区,比如利用儿童等弱势群体,或使用可能导致伤害的潜意识操纵的人工智能,或鼓励危险行为的互动对话玩具。而对于那些预测性警务工具,比如通过分析数据来预测谁会犯罪,也被禁止。

另外,在周三的投票中,一项允许利用人工智能寻找失踪儿童,或防止恐怖主义威胁等执法例外的修正条款没有被通过。

对于部分领域,最新的法案收紧了要求。比如,实时远程生物识别技术在最初的提案中是“高风险”,但在最新投票中被调整为“不可接受的风险”,即人工智能在该领域的应用是被禁止的。

该法案最初的内容并不包括聊天机器人,为了应对近几个月该领域的最新进展,法案增加了一些条款,比如要求明确标注出聊天机器人,以便用户知道他们正在与机器进行交互。

另一个重大补充是要求全面记录用于训练人工智能系统的人类作品(文本、图像、视频和音乐)的任何版权材料。这将让内容创作者知道自己的作品是否被用于训练算法,进而决定自己是否被抄袭,并寻求赔偿。

而考虑到人工智能在就业和教育等领域的应用可能会影响个人生活和工作,因此这些应用面临更严格的监管要求,比如需要对用户保持高度透明,并采取措施评估和减少算法产生偏见的风险等。

成为全球标准?

欧盟并不是尖端人工智能发展领域的重要参与者,这个角色由美国和中国扮演。但是有分析认为,在监管的法规方面,欧盟往往扮演着引领潮流的角色,制定的规定经常会成为事实上的全球标准。

原因之一在于欧盟是巨大的单一市场,拥有4.5亿消费者。对于公司来说,他们不需要为不同地区开发不同产品,更容易遵守规定。

另外,欧洲在监管步伐方面也确实走在最前列,已经基本定型的《人工智能法案》是全球首个综合性的可以强制执行的此类法案。对于用户来说,这相当于一颗“定心丸”,方便公司拓展市场。

爱尔兰公民自由委员会(ICCL)的技术专家Kris Shrishak说,欧盟的法案是可以强制执行的,违规公司将被追究责任,这一事实“意义重大”,因为美国、英国等其他地方目前只是提供了指导和建议,“其他国家可能想要适应和复制欧盟的规则”。

而企业和行业组织则警告称,欧洲在监管方面需要取得适当的平衡。比如,OpenAI首席执行官Sam Altman在支持对人工智能发展设置一些规则的同时,也明确表示“现在就对该领域实施严格监管是一个错误”。

科技公司游说团体“计算机和通信行业协会”(CCIA) 的政策经理Boniface de Champris指出,欧盟将成为监管人工智能的领导者,但它是否会引领人工智能创新仍有待观察。因为它需要有效地解决风险,同时也要为开发人员提供足够的灵活性。

已经脱离欧盟的英国也正在争夺人工智能领导的领导地位。首相苏纳克计划在今年秋天主办一次人工智能安全的全球峰会。他在本周的一次科技会议上表示,英国不仅希望成为人工智能技术发展的据点,同时也想成为安全监管的全球中心。

(文章来源:界面新闻)

推荐内容