欧洲议会成员弥合分歧，《人工智能法》铺平道路

欧盟提议要求开发此类生成式人工智能工具的公司披露他们是否在其系统中使用了受版权保护的材料。 该协议为世界上第一部全面的人工智能法——人工智能法案铺平了道路，该法有望产生全球影响。

当地时间4月27日，经过数月的紧张谈判，欧洲议会议员弥合分歧人工智能，就《人工智能法案》的提案达成临时政治协议，要求部署生成人工智能工具的公司披露受版权保护的材料用于开发其系统。 该协议为可能成为世界上第一部全面的人工智能法《人工智能法》铺平了道路。

在计划于 5 月 11 日举行的关键委员会投票之前，该提案的文本可能仍需要在技术层面上进行微调，预计全体投票将在 6 月中旬举行。

最后一刻的改变：生成人工智能监管

预计将成为欧盟具有里程碑意义的立法的《人工智能法》已经制定了两年多。 立法者提议根据他们认为的风险级别对不同的人工智能工具进行分类，从最低到有限、高和不可接受。 使用这些工具的政府机构和企业将根据风险级别承担不同的义务。

该法案范围广泛，将管辖所有人工智能产品或服务的提供商，涵盖可以生成内容、预测、建议或做出影响环境的决策的系统。

除了企业对 AI 的使用，该法案还将关注公共部门和执法部门对 AI 的使用，并与《通用数据保护条例》(GDPR) 等法律协同工作。 与人类互动、用于监视目的或生成“深度造假”的人工智能系统的用户将面临严格的透明度义务。

直到最后一刻，欧盟立法者还在辩论该提案中一些最具争议的部分。

“通用人工智能系统 (AI)”是立法者提出的一个类别人工智能，用于解释具有多种应用的 AI 工具，例如像这样的生成 AI 模型。 如何应对“通用AI系统”一直是讨论中热议的话题。 欧洲议会确认了早些时候的提议，即对“通用人工智能系统”的一个子类别——基础模型——施加更严格的要求。 开发 AI 等生成式人工智能工具的公司必须披露他们是否在其系统中使用了受版权保护的材料。

协议前夕的唯一重大变化涉及生成式 AI 模型，“这些模型的设计和开发必须符合欧盟法律和基本权利，包括言论自由。”

人工智能法案还禁止“有目的的”操纵。 “有目的的”这个词是有争议的，因为它可能很难证明是故意的，但它被保留了下来。

另外，该法案要求禁止在执法、边境管理、工作场所和教育中使用人工智能情感识别软件。

欧盟立法者对预测性警务的禁令已从刑事犯罪扩大到行政犯罪，这是建立在荷兰儿童福利丑闻的基础上的，在该丑闻中，由于算法有缺陷，成千上万的家庭被错误地认定为欺诈。

高风险分类变更

许多人工智能工具可能被认为是高风险的，例如那些用于关键基础设施、执法或教育的工具。 它们比“不可接受”低一级，因此不会被完全禁止，但要求其操作具有高度透明度。 高风险人工智能的用户可能需要完成严格的风险评估，记录他们的活动，并向当局提供数据以供审查。 这可能会增加公司的合规成本。

最初的提案会自动将某些关键领域和用例中的人工智能解决方案归类为高风险，这意味着供应商必须遵守更严格的制度，包括风险管理、透明度和数据治理的要求。 欧洲议会引入了一个额外的层，以便这些类别的人工智能模型只有在对健康、安全或基本权利构成重大风险时才被视为高风险。

重大风险被定义为“因其严重性、强度、发生概率和影响持续时间而具有重大意义，并能够影响单个人、多人或特定人群的风险”。

绿党表示，如果用于管理关键基础设施（如能源网或供水系统）的人工智能会带来严重的环境风险，那么它也将被归类为高风险。

此外，中左翼立法者还争取一项条款：根据数字服务法（DSA）的定义，超大型在线平台的推荐系统将被视为高风险。

欧洲议会议员在高风险人工智能模型的提供者处理敏感数据（例如性取向或宗教信仰）以检测负面偏见的过程中加入了额外的保障措施。 此外，评估必须在受控环境中进行。 敏感数据不能传输给其他方，必须在进行偏差评估后删除。 提供商还必须记录为什么要进行数据处理。

《国家法律评论》4 月 26 日报道称：“AI 法将具有全球影响，因为它将适用于在欧盟提供或使用 AI 系统的组织；）人工智能系统的提供者或用户，如果由这些人工智能系统在欧盟使用。”