界面新闻记者 |
界面新闻编辑 | 宋佳楠
欧洲议会的一锤定音，或将为全球AI技术的监管带来新变化。
当地时间3月13日，欧洲议会以压倒性多数投票通过并批准了《人工智能法案》。这一具有里程碑意义的法案，将帮助欧盟在监管人工智能方面走在世界前列，也将为其他国家制定AI管理规则定下基调。
欧洲议会表示，该法案旨在保护基本权利、民主、法治和环境可持续性免受高风险人工智能的影响，同时促进创新，以将欧洲“打造成为该领域的领导者”。
这部法案最初诞生于2021年，根据风险类别，法案将AI技术分为了“不可接受”“高”“中”“低”四个级别。AI应用程序的风险越大，它面临的审查和需要遵守的要求就越严格，违规者最高将面临其全球营收7%的罚款。
这一首创为欧洲企业和组织在医疗、安全等领域运用AI，设定了新的规范和标准。
一方面，它全面禁止了该技术的一些“不可接受”的用途，例如禁止由人工智能驱动的社会评分系统，以及任何用于猜测一个人的种族、政治倾向或性取向的基于生物识别的工具。此外，从互联网或闭路电视录像中无目标地抓取面部图像，以创建面部识别数据库。操纵人类行为或利用人类弱点的AI也将被禁止。
另一方面，对其他被认为“高风险”的应用设置了严格的限制，特别是在教育和政府服务等领域。法案要求所有AI生成的内容（图像、音频或视频等）都要有明晰的标签，避免出现虚假信息或者干扰政府选举。
微软、OpenAI等开发出功能强大的人工智能模型的企业也要受到相同的约束。谷歌则已经开始进行自我监管，本周二，该公司不再允许用户向其Gemini聊天机器人询问与选举相关的内容，这一监管已经在美国和印度推出。
此外，针对“训练数据是否能适用版权的合理使用”这一点，业内一直存在争议。2023年12月，《纽约时报》曾以侵犯版权为由起诉OpenAI和微软，要求两家公司销毁任何使用到《纽约时报》版权材料的聊天机器人模型和训练数据。
科技公司也在采取行动，OpenAI在对上述起诉的回应中试图推动社会各界认定训练属于合理使用，不需要授权。类似的案件中，如2015年美国法院曾判决谷歌图书扫描项目属于合理使用。
而最新通过的《人工智能法案》明确表明，要求科技公司要提供大模型训练时所用数据的详细摘要并遵守欧盟版权法。多位业内人士向界面新闻表示，这可能是《人工智能法案》对美国人工智能服务机构的最大影响。
“若这一规定落实，而美国的人工智能服务机构又拒绝披露训练数据，就会导致美国的通用人工智能无法向欧洲的客户提供服务。”上海大邦律师事务所高级合伙人游云庭律师说。
有科技界人士表示，欧盟在数据安全方面的态度一直较为保守。欧盟早在2016年就曾通过通用数据保护条例（General Data Protection Regulation），保护欧盟公民的个人隐私和数据安全，防止个人数据被滥用。
“欧洲相关立法的主要特点，是基于‘世界也许并不急迫需要那么快速的科技发展，而是应当以社会责任为首要目标’这样的思路。”上述科技界人士称，“实际上是比较平衡的思路。”
谈及对科技企业的影响，该人士直言会影响科技发展的速度，因为科技企业本质上只考虑效率与利润最大化两个因素，欧洲的诸多标准自然会成为一种阻力。但他也强调，这是观察视角不一样所致，“如果从人类自身角度来看，实际上欧洲立法的视角跟大众利益更一致。”
天元律师事务所合伙人李昀锴律师也认为，《人工智能法案》采取了更为严格的保护态度，更侧重于对社会利益与公众利益的保护，但也没有简单的“一刀切”，而是按风险对AI系统进行分类监管。
分级监管的思路在我国也有类似应用。2021年11月，《个人信息保护法》《网络数据安全管理条例（征求意见稿）》相继出台，从国家层面明确提出建立数据分类分级保护制度。但对于生成式人工智能服务的监管，暂未有按风险分级的相关尝试。
李昀锴律师告诉界面新闻，目前国内对生成式人工智能服务的义务规定散落在各个部门法规之间，如针对医疗、互联网等行业的法规，而《人工智能法案》则提出了更统一、更标准的监管方式。
目前，《人工智能法案》还需要经过欧盟成员国的批准，预计将在5月或6月正式成为法律。不过最困难的立法阶段已经通过，这也意味着距离最终出台只有一步之遥。欧盟国家预计，《人工智能法案》将于明年初生效，并于2026年正式实施。
即使该法案的适用范围限于欧盟，但影响力并不止于此。
李昀锴律师认为，人工智能属于新兴领域，各国立法机关都没有过多经验参考借鉴，无论是对学术界的研究，还是行政界的监管，欧盟此次的《人工智能法案》都会具有参考作用。