来源：梦溪拾笔 数字治理全球洞察

【按语】在《意见》中，欧洲数据保护专员（EDPS）就欧洲委员会关于人工智能、人权、民主和法治的公约(《人工智能公约》)开始谈判。EDPS认为，该公约是一个重要的机会，可以根据欧盟关于人权、民主和法治的标准和价值观，制定第一个具有法律约束力的人工智能国际公约。为此，公约应包括适当、有力和明确的保障措施，以保护可能受到使用人工智能系统影响的个人。因此，EDPS就欧盟关于《公约》的谈判方向提出三点主要建议。—— 吴沈括，北京师范大学法学院博士生导师、中国互联网协会研究中心副主任。

编译|

北京师范大学 范思琪

欧洲数据保护专员EDPS：

欧洲委员会《人工智能公约》谈判应当加强基本权利保护

背景说明

议题：

人工智能

相关规定：

(a).第2018/1725号条例(欧盟)【Regulation (EU) 2018/1725】规定了欧盟机构的数据保护规则以及欧洲数据保护专员(EDPS)的职责；(欧盟)第2018/1725号条例第42条规定了EDPS的立法咨询权，该条例要求欧盟委员会就所有可能影响个人数据处理的立法提案和国际协定咨询EDPS。这一义务也适用于执行和授权法案草案。发布EDPS意见的法定期限是8周；

(b).《人工智能法》: 2021年4月21日，欧盟委员会提交了其关于欧洲议会和理事会制定人工智能统一规则的提案。EDPS和欧洲数据保护委员会(EDPB)对此提案发表了联合意见。

相关部门：

EDPS是独立的监管机构，负责监督欧盟机构和团体对个人数据的处理，就影响隐私的政策和立法提出建议，并与类似机构合作以确保一致的数据保护。其使命也是提高风险意识，并在处理个人数据时保护人们的权利和自由

相关人员：

Wojciech Wiewiórowski (EDPS)由欧洲议会和理事会联合决定任命，任期五年，从2019年12月6日开始任命。

事件起因

在2022年10月13日发表的《观点（opinion）》中，EDPS欢迎就欧洲委员会关于人工智能、人权、民主和法治的公约(《公约》)开始谈判。EDPS认为，该公约是一个重要的机会，可以通过加强对个人基本权利的保护，以此来补充欧盟委员会拟议的《人工智能法》，例如隐私权和个人数据保护权。

主要观点

欧洲数据保护专员（EDPS）Wojciech Wiewiórowski表示:“该公约是一个机会，可以根据欧盟关于人权、民主和法治的标准和价值观，制定第一个具有法律约束力的人工智能国际文书。为此，公约应包括适当、有力和明确的保障措施，以保护可能受到使用人工智能系统影响的个人"。因此，EPDS就欧盟关于《公约》的谈判指令提出以下主要建议：

第一，总体目标应优先考虑向可能受到人工智能系统使用影响的个人和个人群体提供的保护措施和权利保障。为了确保对个人及其权利的保护，谈判指令应旨在使《公约》与欧盟现有的数据保护法律框架保持一致。

第二，应该禁止对个人造成不可接受的风险的人工智能系统。更具体地说，人工智能应用于:个人的社会评分；公共场所中个人的生物特征识别；根据生物特征数据(如种族)对个人进行分类。默认情况下，应该禁止根据个人感知的情绪对其进行分类；影响个人享有人类尊严的权利的人工智能系统也应被禁止。这些情况应被明确列入谈判指令中。

第三，应该监控人工智能系统的使用，监控这些系统如何工作，洞悉它们带来的风险，是至关重要的。EDPS建议谈判指令旨在提供最低限度的程序保障措施，以保护可能受到使用人工智能系统影响的个人。这些保障措施应该确保人工智能系统的使用是透明的，可以向监督机构和个人清楚地解释，并且可以定期进行审计，以限制这些工具可能带来的风险。还应建立遵约和控制机制，以及《公约》缔约方设计的主管当局之间的跨境合作，以监督人工智能的使用，并保护个人及其基本权利。

补充信息：

欧洲数据保护专员(EDPS)

欧洲数据保护监管专员(EDPS)是保护个人数据权和隐私权，以及促进欧盟机构和团体的友好交往的独立监管机构。

它通过以下方式做到上述职能：

a.监测欧盟行政当局对个人数据的处理

b.监测影响隐私和个人数据保护的政策和立法的技术发展并提出建议

c.以数据保护审计/检查的形式开展调查

d.与其他监管机构合作，确保个人保护的一致性