时间8月1日,欧盟《人工智能法案》正式生效。作为全球首部全面监管人工智能的法规,它的出台意味着人工智能的规范应用迈出重要一步。
正迎头赶上的中国人工智能企业,会否因此受到影响?
如何监管?
该法案风险分级管理的模式,将人工智能系统分为禁止、高风险、有限风险和最低风险四类,并据此设定的合规。
其中,关于高风险人工智能系统的界定和要求成为多方关注焦点。根据法案,自动驾驶汽车、医疗设备、贷款决策系统、教育评分和远程生物识别系统等均属于高风险人工智能系统,涉及医疗健康、公共、交通运输等关键领域,因此该法案对高风险人工智能系统规定了严格的透明度义务。
同时,复杂和广泛使用的人工智能系统也将受到新约束。法案要求,所有人工智能生成的内容(图像、音频或视频等)都要有明确标签,能够被检测为人工智能生成的内容,以解决人们对虚假信息的。
,该法案规定,禁止使用被认为对用户基本权利构成明显威胁的人工智能系统。对有违规行为的企业,欧盟最高将对其处以3500万欧元或全球年营业额7%的罚款,取二者中的较高值。
计划,该法案相关规则将分阶段实施,主要是为了给企业留出一定过渡期。某些规则将在该法案通过6个月后或12个月后生效,而大规则将于2026年8月2日开始生效。
值得一提的是,该法案将适用于欧盟境内,其效力还扩展至欧盟区域外运营的相关公司,具有广泛国际影响力。
影响几何?
随着法案各条款逐步实施,人工智能应用或将走向更加规范的轨道。
北京金杜律师事务所顾问方禹接受中新社国是直通车采访时指出,欧盟《人工智能法案》从约束内容罚规定,保持了一如既往的“高”,具有标杆性意义,将为世界其他地区和国家立法提供参考框架。
与此同时,业内也有很多观点认为,合规意味着上升,该法案实施将显著增加人工智能相关企业的合规。
据早期预测,该法案可能导致欧盟在未来五年内经济损失超300亿欧元,并使人工智能领域的支出增加近17%的合规。
北京大成(上海)律师事务所合伙人彭凯认为,《人工智能法案》对透明度、个人信息等方面提出了较高要求,于消费者而言是利好的。但同时,鉴于严格的监管要求,人工智能价值链上的者需要投入更多资源。企业可能因无法高昂的合规,需要调整其市场进入,甚至因此放弃进入欧盟市场。
在方禹看来,中国人工智能企业若要出海欧盟市场,面临的合规和压力将不可增加。在合规之外,他还强调企业或将面临“价值观”。
方禹认为,对出海企业而言,这部法案涉及的方面以及影响是复杂且多面的。该法案是基于风险的治理思路,但欧盟和中国间对于“风险”的认识和界定存在一定。中国出海企业要面临的是制度上的合规,还需要在价值观等认识层面进行一定调整和平衡。
中国信息通信研究院人工智能研究所人工智能治理高级主管呼娜英,法案生效后,中国出海企业面临的挑战,一方面在于从内部调整自身业务与合规体系以同欧盟对齐,另一方面要从外部平衡好国家和司法区域之间的规则。
有观点,由于监管和约束趋向严苛,该法案可能抑制技术创新,尤其是对初创企业和高风险人工智能系统供应商将构成较大压力。但有分析认为,随着合规体系完善,看将激发企业通过技术创新来降低合规,促进人工智能行业规范化发展。
对此,方禹,法案只是一种工具,且企业有的合规,不可绝对地一概而论。但如果过多企业或类别被列入高风险,将可能在一定上影响企业创新力。
海量资讯、精准解读,尽在新浪财经APP