欧洲议会通过全球首个《人工智能法案》

中国知识产权律师网从欧洲议会官网获悉，2024年3月12日，欧洲议会以523票赞成、46票反对、49票弃权，通过了《人工智能法案》，该法案系全球首部人工智能法案。

该规定旨在保护基本权利、民主、法治和环境可持续性免受高风险人工智能的影响。与此同时，它旨在促进创新，并使欧洲成为人工智能领域的领导者。这些规则根据人工智能的潜在风险和影响程度，规定了人工智能的义务。

法案部分内容要点

被禁止的应用程序

该协议禁止某些威胁公民权利的人工智能应用，包括基于敏感特征的生物特征分类系统、从互联网上无目标抓取面部图像或将闭路电视录像用于面部识别数据库、工作场所和学校的情感识别、社交评分，仅基于对一个人进行特征分析或评估其特征的预测性警务，以及操纵人类行为或利用人们脆弱性的人工智能。

执法豁免

原则上禁止执法部门使用生物特征识别系统，除非是在详尽列出和狭义界定的情况下。“实时”风险监测（RBI）只能在严格的保障措施下部署，例如在时间和地理范围有限的情况下，事先获得司法或行政授权。例如，这些用途包括搜索失踪人员或防止恐怖袭击。事后使用此类系统（“后远程RBI”）被视为高风险，也需要司法授权，并且必须与刑事犯罪相联系。

高风险系统的义务

还商定了其他高风险人工智能系统的明确义务，这些系统可能会对健康、安全、基本权利、环境、民主和法治产生重大影响。高风险用途包括关键基础设施、教育和职业培训、就业、基本服务（如医疗、银行）、执法、移民和边境管理、司法和民主进程中的某些系统（如影响选举）。公民有权对人工智能系统提出投诉，并有权就基于影响其权利的高风险人工智能系统的决策接受解释。

透明度要求

通用人工智能（GPAI）系统及其所基于的模型在培训期间必须满足某些透明度要求，并遵守欧盟版权法。可能带来系统风险的更强大的GPAI模型将面临额外的要求，包括执行模型评估、风险评估和事件报告。此外，人工或操纵的图像、音频或视频内容（“deepfakes”）也需要明确标记。

支持创新和中小企业的措施

将在国家一级建立监管沙盒和实际测试，为中小企业和初创企业在投放市场之前开发和培训创新人工智能提供机会。

下一步

该文本等待即将举行的议会全体会议正式通过，并等待理事会的最终批准。它将在生效后24个月内完全适用，但禁止违禁行为的禁令除外，该禁令将在生效6个月后适用；业务守则（生效后九个月）；通用AI规则，包括治理（生效后12个月）；以及高风险系统的义务（36个月）。