本篇在原文中的位置
本文是《可信 AI 伦理指南》2019 年版第一章的中文译文，对应印刷页 9至13。前篇总览与整体框架说明“合法、合乎伦理、稳健”三个组成部分；本篇解释为什么以基本权利为出发点，以及四项伦理原则怎样帮助判断 AI 的发展与使用。
可信 AI 的基础
本章以基本权利为基础，并以四项伦理原则体现这些权利。要确保 AI 合乎伦理且稳健，应遵循这些原则。这里主要借鉴伦理学。
AI 伦理是应用伦理的一个分支，研究开发、部署和使用 AI 所引发的伦理问题。其核心关切，是识别 AI 怎样促进或损害个人的美好生活：既包括生活质量，也包括民主社会所需的人的自主与自由。
伦理反思至少有两个用途。一方面，它促使我们思考如何在最基本层面保护个人和群体；另一方面，它可激发新的创新方向，使技术主动促进伦理价值，例如帮助实现联合国可持续发展目标和当时即将推进的欧盟 2030 议程。
虽然本指南主要关注保护作用，伦理对创新方向的作用也不应被低估。可信 AI 可以通过创造繁荣、价值和财富改善个人发展与集体福祉，也可以通过促进健康、改善经济、社会与政治机会分配的平等，帮助形成更公平的社会。
因此，需要理解怎样支持 AI 的开发、部署和使用，使所有人能够在 AI 广泛应用的世界中充分发展，在保持全球竞争力的同时建设更好的未来。像其他强大技术一样，AI 的社会应用会带来伦理挑战，例如对人和社会、决策能力与安全的影响。随着人越来越依赖 AI 辅助，或把决定交给 AI，我们必须确保它公平影响人的生活、符合不可随意牺牲的价值，并有适当问责流程保障这些要求。
欧洲需要明确，希望实现怎样一种充满 AI 的未来，以及应研究、开发、部署和使用何种 AI 才能实现这一愿景。指南将可信 AI 视为建设这一未来的路径：以民主、法治和基本权利为系统基础，使系统持续改善并维护民主文化，也为创新与负责任的竞争提供环境。
任何领域的伦理准则，无论多么一致、成熟和细致，都不能代替伦理推理本身。实际判断始终要留意一般指南无法穷尽的情境细节。除了规则，还需要通过公共讨论、教育与实践学习，建立并维持伦理文化与思维方式。
基本权利：法律权利，也是道德权利
指南采用以欧盟条约、欧盟基本权利宪章和国际人权法为基础的 AI 伦理方法。在民主与法治框架中尊重基本权利，为识别能够落实到 AI 中的伦理原则与价值提供了基础。
欧盟条约和宪章规定了一系列基本权利，欧盟机构和成员国在实施欧盟法时有义务尊重。宪章从尊严、自由、平等、团结、公民权利和司法等方面表述这些权利。其共同基础是尊重人的尊严，体现以人为中心的方法：人在公民、政治、经济与社会领域，具有独特、不可剥夺且应被优先尊重的道德地位。
这种以人为中心的方法，并不意味着把人理解成脱离社会的个体。个人自由和人的尊严，必须有使其在现实中可实现、有意义的共同社会与宪制基础。
宪章权利具有法律约束力，但基本权利并不在每一种情境中提供完整法律保护。例如，宪章的适用范围受欧盟法领域限制；国际人权法，尤其《欧洲人权公约》，则在欧盟法范围之外的一些领域也对成员国有约束力。同时，基本权利也因人的道德地位而属于个人，并在一定程度上属于群体，不以法律是否赋予强制力为前提。
作为可依法执行的权利，基本权利属于可信 AI 的第一个组成部分，即合法性；作为基于人的内在道德地位、人人享有的权利，它们也支持第二个组成部分，即伦理性。指南不指导第一个部分的合规，因此下文提到基本权利时，主要表达后一种伦理含义。
哪些权利尤其与 AI 有关
国际人权法、欧盟条约和宪章中的权利不可分割。以下几组权利尤其适合用于理解 AI。许多权利在特定情况下可依法执行，必须遵守；即使法律要求已经满足，伦理反思仍能帮助判断技术对权利及其基础价值有什么影响，进一步区分“技术上目前能做什么”与“应当做什么”。
尊重人的尊严
每个人都有内在价值，其他人和 AI 等新技术都不应贬低、损害或压制这种价值。人应被当作具有道德地位的主体来尊重，而非只是被筛选、分类、评分、驱赶、塑造或操纵的对象。
因此，AI 的开发方式应尊重、服务和保护人的身心完整、个人及文化认同，并帮助满足基本需要。
个人自由
人应有自由为自己的人生作决定。这既意味着免受公权力的不当干预，也意味着政府和非政府组织需要采取行动，使有被排斥风险的人能够平等获得 AI 的益处与机会。
在 AI 情境中，需要减少直接或间接的非法胁迫、对心理自主与心理健康的威胁、不正当监控、欺骗和不公平操纵。个人自由还意味着帮助人更充分掌控生活，包括经营自由、艺术和科学自由、表达自由、私人生活与隐私权，以及集会和结社自由。
民主、正义与法治
宪政民主中的一切政府权力都必须有法律授权，并受到法律限制。AI 应维护和促进民主过程，尊重不同价值及生活选择。它不得削弱民主程序、人的公共审议或投票系统。
AI 也应作出承诺，不损害法治的基本原则以及有强制力的法律法规，并确保正当程序和法律面前人人平等。
平等、不歧视与团结
必须平等尊重所有人的道德价值与尊严。这不只是“不歧视”；不歧视仍允许基于客观理由，区分本就不同的情形。
在 AI 中，平等意味着系统运行不应产生带有不公平偏差的输出。例如训练数据应尽可能包容，反映不同人口群体。同时，要适当尊重可能脆弱或有被排斥风险的个人和群体，包括劳动者、女性、残障人士、少数族裔、儿童、消费者等。
公民权利
公民拥有投票、获得良好行政管理、查阅公共文件、向行政机关提出请愿等多种权利。AI 能显著提升公共产品与服务提供的规模与效率，也可能损害这些权利，因此需要保护。
这里使用“公民权利”，并不是否认或忽视身处欧盟的第三国国民、无正规身份者或非法居留者的权利。他们同样享有国际法保护的权利，这也适用于 AI 场景。
从权利到四项伦理原则
公共、私人及公民社会组织已从基本权利出发，提出许多 AI 伦理框架。欧洲科学与新技术伦理小组曾以欧盟条约及宪章价值为基础提出九项原则。本指南在此基础上，吸收其他组织已提出的大部分原则，并澄清各项原则所要促进的目标。
以基本权利为基础，也能借鉴欧洲数十年的权利保护实践，减少监管不确定性，增加清晰度与可预见性。这些原则可以启发新监管工具，在社会技术环境改变时帮助解释基本权利，也可为 AI 开发、部署和使用提供理由，并随社会演进动态调整。
AI 应增进个人与集体福祉。以下四项原则根植于基本权利，是实践者应始终努力遵循的伦理要求。排列顺序参照宪章中相关权利出现的顺序，不表示原则间存在高低等级。
一、尊重人的自主性
欧盟基本权利致力于保障人的自由与自主。与 AI 互动的人，应能够对自身保持充分、有效的自我决定，并参与民主过程。
AI 不应无正当理由地使人处于从属地位、胁迫、欺骗、操纵、塑造或驱赶人。设计应增强、补充并赋能人的认知、社会与文化能力。人与 AI 之间的功能分配应遵循以人为中心的设计，让人保有有实际意义的选择机会。这要求对 AI 工作流程保留人的监督。
AI 还可能根本改变工作领域。它应在工作环境中支持人，并以创造有意义的工作为目标。
二、防止伤害
AI 不应造成、加重伤害，或以其他方式对人产生不利影响。这要求保护人的尊严、心理和身体完整。伤害可以针对个人或集体，也包括社会、文化、政治环境中的无形损害，例如对个人或群体生活方式的文化伤害。
系统及其运行环境应安全、具备安全防护；系统应技术稳健，避免被恶意使用。开发、部署和使用过程中，应额外关注脆弱人群，并让他们参与。
还要特别注意因权力或信息不对称而产生、加重不利影响的情境，如雇主与员工、企业与消费者、政府与居民之间的关系。防止伤害也包含对自然环境和所有生命的考虑。
三、公平
开发、部署和使用 AI 必须公平。公平有多种解释，但至少包含实质与程序两个层面。
实质层面要求利益与成本得到平等、公正的分配，个人和群体免受不公平偏差、歧视与污名化。避免不公平偏差后，AI 甚至可能提升社会公平。也应促进人平等获得教育、商品、服务与技术。使用 AI 不应欺骗人，或无正当理由地损害选择自由。
公平还要求手段与目的相称，仔细考虑相互竞争的利益与目标。原文以“不要用大锤砸坚果”说明比例原则：实现目的所采取的措施，应限于严格必要的范围；若多种措施都能实现目的，宜选择对基本权利与伦理规范不利影响最小的方案。原文以能适用时优先使用公共部门数据、减少个人数据使用为例，并提示也要权衡企业知识产权、保密权与使用者权利。
程序层面意味着，对于 AI 以及操作 AI 的人作出的决定，人应能够提出质疑，并寻求有效救济。为此，必须能够识别负责的主体，决策过程也须可阐释。在工作场景中，结社及加入工会的权利也可支持这一过程。
四、可阐释性
可阐释性对建立和维持使用者信任十分关键：过程需要透明；系统的能力和目的应公开说明；决定应尽可能向直接与间接受影响的人解释。缺少这些信息，就无法适当质疑决定。
但有时不能解释模型为什么产生某个具体输出，或者哪些输入因素以何种组合促成决定。原文将其称为“黑箱”算法，要求特别关注。在整体尊重基本权利的前提下，可能需要采用其他可阐释性措施，例如可追溯性、可审计性，以及对系统能力作透明说明。
所需阐释程度高度取决于情境，以及错误输出造成后果的严重性。购物推荐不准确的伦理风险，通常与判断被判刑者能否获得假释的系统不同。
译注：此处 explicability 涵盖透明沟通、解释、追踪与问责的条件，不能简单等同于“能够展示模型内部所有参数”。
原则发生冲突时怎么办
原则间可能出现张力，没有固定通用答案。应按照民主参与、正当程序与开放政治参与的承诺，建立可问责的审议方法。
例如，防止伤害与人的自主性可能冲突：预测性警务或许有助减少犯罪，但相关监控可能侵入个人自由与隐私。系统整体收益应显著超过可预见的个人风险，但抽象原则本身不能直接给出所有正确答案。实践者应通过有理由、有证据的反思处理伦理难题与权衡，而非凭直觉或任意裁量。
然而，也可能根本找不到伦理上可接受的折中。一些基本权利及对应原则具有绝对性质，例如人的尊严，不能作为一般利益权衡中的可交换项目。
本章的核心指导是：开发、部署和使用 AI 时遵循四项原则，承认并处理它们之间的潜在冲突；特别留意儿童、残障人士、历史上处于不利地位或有被排斥风险的人，以及雇主与劳动者、企业与消费者等权力或信息不对称的关系。
接下来阅读七项要求与实现方法，看这些原则怎样进入数据、设计、组织与监督流程。
参考与延伸阅读
原文：Ethics Guidelines for Trustworthy AI，2019 年 4 月 8 日，European Union，印刷页 9至13。欧盟数字战略原文入口。本页为非官方中文翻译，调整分篇、术语与版式；原文脚注中的实质解释已放入相应段落，不转载个人身份名单。
依欧盟数字资料再利用说明，原资料采用 CC BY 4.0，本页译文按相同许可提供，不表示原机构认可。
条款查询：欧盟基本权利宪章；欧洲人权公约官方中文文本入口。后者入口可选择中文版本。编辑补充：联合国人权中文入口用于查询国际人权框架，不构成本页对具体法律适用的判断。