欧洲议会通过了关于《人工智能法》的谈判授权草案

5月11日，欧洲议会内部市场委员会和公民自由委员会以84票赞成、7票反对和12票弃权通过了关于《人工智能法》（the AI Act）的谈判授权草案。 该草案旨在确保人工智能系统受到监督。该谈判授权草案需要得到欧洲议会的批准，预计表决将在6月12日至15日的会议期间进行。

欧洲议会方面表示，"在草案中，欧洲议会议员旨在确保AI系统由人监督，且确保其安全、透明、可追溯、非歧视和环保。并希望对AI有一个统一的定义，旨在保持技术中立，以便其可以适用于现在和以后出现的人工智能系统"。同时欧洲议会方面还表示，一旦获得批准，《人工智能法》将成为全球首部有关AI的法规。目前《人工智能法》谈判授权草案采取了分级管理的思路，即基于AI的四个等级（从风险最小到不可接受）进行区别管理，其中风险较高的应用和服务将面临更严格的规则，需要更高的透明度和准确性。据悉，该草案已将ChatGPT和类似的生成式AI与高风险系统置于同一级别。
      在该草案中显示，可能对人类安全造成不可接受风险的AI系统将被严格禁止，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等，例如用于预先确定犯罪发生地点和犯罪者的警务工具（除打击和预防特定恐怖威胁外）、在公共场所进行大规模远程面部识别等。
      而该草案的另一个关键条款，则是将要求创建一个高风险AI系统的数据库，以公开AI系统在欧盟的部署地点、时间和方式。该草案中提及，“这个数据库应该是自由、公开且易于理解的。数据库还应方便用户使用，易于导航，至少具有搜索功能，允许公众在数据库中搜索特定的高风险系统以及相关的位置、风险类别等”。
      在通用人工智能AGI和大模型监管方面，该草案指出，大模型的创建者需要在部署应用之前进行评估并减轻各种风险，包括评估训练AI系统可能造成的环境损害。而且相关公司必须公开训练AI使用的数据，以确保其使用受版权法保护的数据训练。

来源：欧洲议会官网

供稿：国家海外知识产权纠纷应对指导深圳分中心