可信 AI 伦理指南：摘要、引言与整体框架

阅读说明

本文是《可信 AI 伦理指南》（Ethics Guidelines for Trustworthy AI）2019 年版的中文译文第一部分，涵盖执行摘要、引言和整体框架。后续依次是基本权利与四项伦理原则、七项要求与实现方法、完整评估问题清单及应用机会、关键关切与术语。分篇只为便于阅读，不改变原文的论证次序。

译文保留原文的历史语境，包括当时计划开展的试用工作。文中的“应当”“必须”等规范性用语用于表达原文对伦理性和稳健性的要求，不自动构成现行法律义务，也不提供法律合规意见。法律、政策与技术版本应另行核对。

原文件说明：指南由欧盟委员会于 2018 年 6 月设立的独立专家组编写，2019 年 4 月 8 日公开。2018 年 12 月草案收到五百多位参与者的反馈。成员支持整体框架，但不必然同意每项表述；内容反映专家组观点，不能视为委员会的官方立场。个人联系人、署名和行政信息不纳入本译文。

执行摘要：可信 AI 需要同时具备什么

本指南旨在促进可信 AI。可信 AI 包含三个组成部分，而且三个部分都应在系统整个生命周期内得到满足：第一，合法，遵守所有适用法律法规；第二，合乎伦理，遵循伦理原则与价值；第三，稳健，既在技术层面稳健，也在社会层面稳健，因为即使出于善意，AI 系统仍可能造成无意的伤害。

每个组成部分都是必要条件，但单独任何一个都不足以实现可信 AI。理想情况下，三个部分应当相互协调，在实际运行中有所交叠。如果现实中出现冲突，社会应努力使它们趋于一致。

指南为实现可信 AI 提供一个框架。它不专门处理第一个组成部分，即合法性，而是针对第二、第三个部分，指导如何促进和保障合乎伦理、稳健的 AI。指南面向所有利益相关者，希望超越一张伦理原则列表，进一步说明怎样在社会技术系统中落实这些原则。其指导分为三个由抽象到具体的层次，最后列举 AI 带来的机会和重大关切。

第一层：从基本权利确立伦理原则

第一章以基本权利为出发点，确定开发、部署和使用 AI 时必须尊重的伦理原则及相关价值。核心指导如下：

• 开发、部署和使用 AI 时，遵循尊重人的自主性、防止伤害、公平、可阐释性四项原则。承认并处理原则之间可能出现的冲突。
• 特别关注儿童、残障人士、历史上处于不利地位或有被排斥风险的群体，也要关注权力或信息不对称的情境，例如雇主与劳动者、企业与消费者之间的关系。
• 承认 AI 除了给个人和社会带来重大益处，也可能产生风险和负面影响。有些影响很难预测、识别或衡量，例如对民主、法治、分配正义乃至人的心智的影响。适时采取与风险程度相称的缓解措施。

原文在这里提示，《欧盟基本权利宪章》第 24至27 条涉及儿童、老年人、残障人士融入社会及劳动者的权利，第 38 条涉及消费者保护。

第二层：将原则转成七项要求

第二章在第一章基础上提出 AI 应满足的七项要求，并说明可以采用技术方法和非技术方法来实现。核心指导如下：

• 确保开发、部署和使用过程满足七项要求：人的能动性与监督；技术稳健性与安全；隐私与数据治理；透明度；多样性、不歧视与公平；环境与社会福祉；问责。
• 同时考虑技术方法和非技术方法，落实这些要求。
• 促进能够评估 AI、推动要求落实的研究与创新；向更广泛公众传播结果和尚未解决的问题；系统培养新一代 AI 伦理专业人才。
• 清楚、主动地向利益相关者说明系统的能力、局限，以及各项要求怎样实施，帮助形成现实的预期；让人知道自己正在与 AI 交互。
• 促进系统的可追溯性与可审计性，尤其是在关键情境中。
• 让利益相关者参与整个生命周期。通过培训和教育，使各方了解可信 AI，并具备相应能力。
• 意识到不同原则与要求之间可能存在根本张力。持续识别、评估、记录并沟通这些权衡及解决办法。

第三层：用具体问题评估落实情况

第三章给出一份具体但并不穷尽所有问题的可信 AI 评估清单，帮助将第二章的要求付诸实践。清单需要按 AI 系统的具体用途调整。它同样只指导伦理性与稳健性，不是法律合规清单。

开发、部署和使用 AI 时，应采用并调整这类评估清单。但清单永远不可能穷尽所有问题。确保可信 AI，并不是在方框内打勾，而是在整个生命周期中不断识别并实施要求、评估解决方案、改善结果，同时让利益相关者参与。

最后一部分以具体例子说明值得追求的有益机会，以及需要认真考虑的关键关切，让前面框架中的若干问题更加具体。

指南为各种 AI 应用提供横向基础，但不同情境会产生不同挑战。因此，还应探索是否需要补充针对具体行业的指导。指南不取代现有或未来的政策、监管，也不阻止引入这些政策或监管。它是一份应随技术、社会环境和知识发展而持续审视、更新的文件，是讨论“面向欧洲的可信 AI”的起点，也希望推动全球层面的 AI 伦理研究、反思和讨论。

这里的欧洲范围主要指欧盟成员国，也涵盖在其他地方开发或生产、但在欧盟部署和使用的系统。原文同时希望对欧盟之外具有参考意义，并提到挪威和瑞士也参加了 2018 年 12 月公布的 AI 协调计划。

引言：为什么提出可信 AI

欧盟委员会在 2018 年 4 月 25 日和 12 月 7 日的通报中，提出支持“合乎伦理、安全且处于技术前沿的欧洲 AI”的愿景。它有三项支柱：增加公共和私人 AI 投资、促进采用；为社会经济变化做好准备；建立适当的伦理与法律框架，以加强欧洲价值。

为支持这一愿景，委员会设立独立的人工智能高级别专家组，负责两项成果：AI 伦理指南，以及政策与投资建议。本指南依据 2018 年 12 月 18 日草案公开征询所得的反馈，经进一步讨论修订；它也参考了欧洲科学与新技术伦理小组的工作及其他类似实践。参与者共 52 人，在讨论与交流中以“多元一体”为共同承诺。

AI 有显著改变社会的潜力，但 AI 本身不是目的。它是一种有望促进人的充分发展、提升个人和社会福祉、增进共同利益，并带来进步与创新的手段。例如，它能够帮助实现联合国可持续发展目标：促进性别平衡、应对气候变化、更合理地使用自然资源、改善健康、出行和生产流程，也能支持追踪可持续性与社会凝聚力指标的进展。

要实现这些目标，AI 必须以人为中心，承诺服务于人类和共同利益，改善人的福祉与自由。机会伴随着需要妥善、适度处理的风险。当时正处在能够塑造 AI 发展的重要窗口：既要让人能够信任 AI 所处的社会技术环境，也希望生产者通过在产品和服务中落实可信 AI 获得竞争优势。因此，需要一边尽量实现收益，一边防范并减少风险。

在技术快速变化的环境中，信任仍应成为社会、社区、经济和可持续发展的基石。如果没有清晰、全面的可信性框架，个人和群体就难以对技术的发展与应用建立信心。指南因此将可信 AI 作为基础目标，并将其视为实现技术前沿与伦理并重、尊重人权、民主和法治的发展路径。

信任针对的是整个社会技术系统

可信是个人和社会开发、部署、使用 AI 的前提。如果 AI 以及其背后的人不能证明自身值得信任，就可能出现不希望的后果，应用采用也会受阻，潜在的社会经济收益便无法实现。

信任不只涉及技术本身的特征，也涉及包含 AI 应用的整个社会技术系统。航空、核能或食品安全中的信任问题同样如此：决定人是否信任的，不只是某个技术部件，而是系统及其完整运行环境。

因此，可信 AI 需要整体性、系统性的方法，覆盖生命周期内参与这一环境的所有行为者与流程。这包括人、公共部门、企业、基础设施、软件、协议、标准、治理、既有法律、监督机制、激励结构、审计程序和良好实践的报告机制等。

三个组成部分必须贯穿生命周期

这三部分各自必要，但单独不足；未来也可能需要额外条件。理想状态是相互支持，但现实中可能冲突，例如既有法律的范围与内容一时落后于伦理规范。作为社会成员，个人与集体都有责任使三者共同支持可信 AI；当法律不适应伦理原则时，立法者或政策制定者也可能需要检视既有法律是否充分。

可信的方法为“负责任的竞争力”奠定基础，使受到 AI 影响的人能够相信，其设计、开发和使用合法、合乎伦理且稳健。指南旨在促进负责任、可持续的创新，将伦理作为 AI 发展的一根核心支柱，使个人成长与社会共同利益得到促进、赋能和保护。有潜在风险防护，人们才能更充分地享有 AI 的益处。

AI 的使用与影响都不会止于国界，因此其全球机会与挑战需要全球性应对。指南鼓励各方建立可信 AI 的全球框架，在形成国际共识的同时维护以基本权利为基础的方法。

适用对象、范围与原版试用安排

指南面向所有设计、开发、部署、实施、使用 AI 或受到 AI 影响的人，包括企业、组织、研究者、公共服务部门、政府机构、公民社会、个人、劳动者与消费者。

承诺实现可信 AI 的利益相关者，可以自愿使用指南作为落实承诺的方法，尤其可在开发、部署、使用过程中采用第三章的实用评估清单。清单也可补充并融入已有评估流程。

指南提供一般性基础，但不同情境的问题不同。音乐推荐系统与建议关键医疗治疗的系统，伦理关切并不相同；企业对消费者、企业对企业、雇主对员工、公共部门对居民的应用，也各有机会与挑战。因此必须按具体应用调整实施方式，并探索是否需要行业性补充。

原文邀请各方试用评估清单、提供反馈，以理解哪些事项可统一处理，哪些需要行业方法。其当时安排是于 2019 年夏季启动试用、持续到年底，并计划根据反馈于 2020 年初修订清单，感兴趣者可通过欧洲 AI 联盟表达参与意愿。译注：这是 2019 年原版记载的历史安排，并非今天仍开放的报名通知。

整体框架：合法、伦理与稳健各负责什么

合法的 AI

AI 不是运行在没有法律的世界。开发、部署和使用 AI 已受欧洲、国家与国际层面多种有约束力的规则影响。原文列举的来源包括欧盟一级法：条约及基本权利宪章；欧盟二级法：通用数据保护条例、产品责任指令、非个人数据自由流动条例、反歧视指令、消费者法和工作场所安全健康指令；联合国人权条约、欧洲委员会公约，例如《欧洲人权公约》；以及成员国法律。医疗器械条例等规则则针对特定领域。

法律既有消极义务，也有积极义务，不只说明不能做什么，也说明应该做什么、可以做什么。法律禁止一些行为，也为另一些行为提供条件。基本权利宪章除了数据保护、不歧视等权利，也保障经营自由、艺术和科学自由。

本指南不专门解释怎样实现法律合规，而是指导伦理性与稳健性。后两者的部分内容虽已体现于法律，但完整落实可能超出既有法律义务。本文件不提供法律意见，不创造法律权利，也不向第三方施加法律义务。自然人和法人仍有责任遵守当前适用、或随 AI 发展而依法出台的未来法律；本指南以所有适用的法律权利与义务仍具有强制性、必须得到遵守为前提。

合乎伦理的 AI

可信 AI 不只是守法。法律未必与技术发展同步，有时可能与伦理规范脱节，也可能并不适合解决某类问题。因此系统还需要符合伦理规范。

稳健的 AI

即使目的合乎伦理，个人和社会仍需要相信系统不会造成无意伤害。系统应安全、可靠地运行，并预先设置防护，避免非预期的不利影响。

稳健有两个层面：技术层面，要根据应用领域、生命周期阶段等具体条件确保技术稳健；社会层面，要充分考虑系统运行的背景与环境。伦理性与稳健性紧密交织、彼此补充，第一章原则及第二章要求同时处理这两个方面。

从原则走向实施与评估

查看图解文字说明

合法、合乎伦理、稳健均为必要但单独不充分的条件。指南侧重伦理与稳健：第一章从基本权利提出自主、防止伤害、公平、可阐释四项原则；第二章提出七项要求，以技术及非技术方法实施；第三章按具体用途使用非穷尽清单评估。各阶段均需处理冲突与持续复查。

第一章以基本权利为基础，阐明伦理原则；第二章把原则转成贯穿生命周期的七项要求，并提供技术与非技术实现方法；第三章将要求化为具体、非穷尽的评估问题，供按用途调整。最后通过机会与关键关切推动进一步讨论。

这里的基本权利有两种相连而不同的含义：作为国际及欧盟人权法的一部分，它们支持可依法执行的权利，属于合法性；作为因人的身份而产生、并不依赖法律约束力才存在的道德权利，它们也为伦理性提供基础。

下一篇：基本权利、四项伦理原则及原则间的冲突。若想先了解它在整体治理中的位置，可返回可信 AI 与伦理框架。

参考与延伸阅读

原文：Ethics Guidelines for Trustworthy AI，2019 年 4 月 8 日，European Union。来源：欧盟数字战略原文入口。本篇对应原文印刷页 2至8。

本页为非官方中文翻译；作了分篇、术语统一、版式调整和中文图形重绘，不表示原机构认可。未转载个人简介、身份名单或第三方照片。原资料依欧盟数字资料再利用说明采用 CC BY 4.0；本页译文及注明的重绘图按相同许可提供。原文的法律和政策名称保留其历史语境，不能作为当前合规结论。

编辑补充：联合国可持续发展目标中文入口便于查询原文提到的共同发展目标；欧盟基本权利宪章可用于核对权利条款。