应用例子怎样帮助理解框架
本文为《可信 AI 伦理指南》2019 年版最后部分的中文译文，对应印刷页 32至38，包含机会、关键关切、结论及术语表。前面依次是整体框架、四项原则、七项要求和评估清单。
原文举例说明哪些开发和使用值得鼓励，以及哪些可能违背其价值、引发特定关切。需要在“应当做什么”与“能够做什么”之间取得平衡，同时认真考虑“不应当做什么”。案例、预测和数字保留 2019 年的语境，不作为今天的实测成效。
可信 AI 带来的机会
可信 AI 有望帮助应对人口老龄化、社会不平等扩大、环境污染等紧迫挑战。这也反映在联合国可持续发展目标中。以下讨论怎样鼓励能够回应这些问题的欧洲 AI 战略。
气候行动与可持续基础设施
应对气候变化应是全球政策重点。数字化和可信 AI 有望减少人对环境的影响，更高效地使用能源及自然资源。例如结合大数据，更准确地识别能源需要，使能源设施与消费更有效率。
原文以智能电网、储能等项目为例，并提到 BRIDGE 倡议帮助不同项目形成对跨领域问题的共同认识；Encompass 项目也是当时的例子。这些是方向与项目说明，不等于本站验证了各项目今天的效果。
在公共交通中，智能交通系统可减少排队、优化路线、帮助视障人士更独立出行、优化节能发动机，从而支持脱碳并减少环境足迹。原文以 Fabulos 的城市交通、PRO4VIP 的视障辅助及 UP-Drive 的车辆渐进自动化与协作为例，说明更安全、包容、可负担的交通方向。
原版引用当时世卫组织资料称，全球约每 23 秒就有一人在交通事故中死亡，并认为 AI 或可通过更快反应、较好遵守规则等方式降低死亡。译注：这一数字是原文的历史引用；它不是当前统计，也不能据此认定自动驾驶已经实现了相应安全改善。当前交通伤害数据可查询文末世卫组织入口。
健康与福祉
可信 AI 可使治疗更智能、更有针对性，帮助预防危及生命的疾病，部分应用当时已在使用。医疗专业人员有可能更准确、细致地分析复杂健康数据，甚至在出现疾病前提供个性化预防。
原文列举 REVOLVER 对癌症演变与个体治疗的研究，MURAB 对更准确活检和更早诊断的探索；Live INCITE 则要求创新电子健康方案，在围手术期帮助人按自身情况调整生活方式，改善医疗结果。
面对老龄化，AI 和机器人可辅助照护者、支持老年照护，并实时监测状态。原文以 CARESSES 研究按老年人的文化与习惯调整机器人言行，以及 ALFRED 虚拟助手帮助保持活跃为例；EMPATTICS 探索如何用包括 AI 在内的信息通信技术共同规划干预、监测身心变化。
MyHealthAvatar 项目提供长期健康状态的数字表示，以应用和在线平台构成终身健康伙伴，并探索卒中、糖尿病、心血管病、高血压风险预测。ENRICHME 面向认知能力逐渐下降，结合环境辅助生活平台和移动服务机器人进行长期监测与互动，支持独立和活跃生活。
在更大尺度上，AI 能分析医疗及治疗趋势，帮助更早发现疾病、提高药物开发效率、改善针对性治疗，最终有望挽救生命。原文也提到以统计推断、模式识别和机器学习处理基因组及影像组数据的 Sophia Genetics。以上都是原版呈现的潜在用途或项目，不构成诊疗建议，也不等于对其有效性作独立验证。
优质教育与数字化转型
技术、经济和环境变化要求社会更主动地准备。政府、行业、教育机构与工会有责任帮助公众进入数字时代，获得未来工作所需技能。
可信 AI 可更准确预测哪些工作和职业受冲击、哪些新角色会出现、需要什么技能，帮助政府、工会与行业规划技能提升和转岗培训，也为担心失业的人提供新的发展路径。
AI 也可用于减少教育不平等，提供个性化、可调整的学习方案，让不同学习能力的人获得新资格、技能与能力，并有望提高从基础到高等教育的学习速度与质量。原文举出 MaTHiSiS 情感感知学习环境、Watson Classroom 和 Century Tech 等当时案例。
AI 引发的关键关切
当可信 AI 的某个组成部分被违反时，就可能出现重大关切。以下许多事项已落入必须遵守的法律范围，但即使证明合规，也可能尚未覆盖全部伦理问题。对规则与原则是否充分的认识会变化，因此这份非穷尽列表也可能被缩减、扩大或更新。
识别、追踪与持续监测个人
AI 使公共和私人主体更有效率地识别个人。可大规模使用的例子包括人脸识别，以及人在非自愿情况下通过生物特征被识别的技术，例如测谎、由微表情推断人格、自动声音识别。译注：列出某种技术，不代表原文或本站证明其关于人格、情绪等推断可靠。
有时识别具有合乎伦理的目的，如发现欺诈、洗钱或恐怖融资。但自动识别也有强烈的法律与伦理关切，可能对心理和社会文化产生非预期影响。为维护自主，控制技术的使用必须相称。
必须明确是否、何时、怎样允许自动识别，并区分“识别某个人”与“持续追踪某个人”，也区分针对性监控和大规模监控。技术应用需要既有法律的明确依据，原文在此指向 GDPR 第 6 条。
若法律依据是同意，就应有实际有效的办法，使人对 AI 自动识别作出有意义、可验证的同意。这也适用于能够重新关联到个人的所谓匿名数据。原文指出，网络中很多同意机制让消费者没有认真考虑便作出同意，很难称为实际有效。
隐瞒 AI 身份的系统
人应知道自己直接互动的是另一个人还是机器，实践者有责任可靠地实现这一点，例如明确透明地说明，或让人能请求并验证自己是否在与 AI 互动。
也存在边界情形，例如真人说话但声音经过 AI 过滤。人机混淆可能引发依恋、影响行为，或降低对人的独特价值的认识。因此，类人机器人以及 AI 驱动的虚拟化身，都应接受审慎伦理评估。
违反基本权利的公民评分
社会应保护所有人的自由与自主。任何形式的公民评分都可能削弱自主，危及不歧视原则，因此只有理由明确、措施相称且公平时才应使用。
公共或私人主体在生活各方面大规模评价人的“道德人格”或“伦理诚信”，尤其在不符合基本权利、不相称、没有明确并沟通合法目的的情况下，会危害这些价值。
较窄领域的描述性评分，例如教育、电子学习或驾驶资格评分，也需要完全透明的程序，说明过程、目的与方法。原文有一处措辞容易引起歧义；结合上下文，其意思是：透明本身不能防止歧视、保证公平，也不是解决评分问题的万能办法。
可行时，宜允许人无不利后果地退出；否则必须有质疑、纠正评分的机制。存在权力不对称时尤其重要。为遵守基本权利且在民主社会中必要时，应在技术设计中保障退出选择。
致命自主武器系统
2019 年原文指出，有数量不明的国家和产业正在研究开发致命自主武器，从可选择目标的导弹，到可能无需人工介入便决定攻击谁、何时及何处攻击的学习系统。
这引发根本伦理关切：可能出现历史上前所未有、无法控制的军备竞赛，使军事情境中人的控制几乎完全丧失，而故障风险未被处理。
原文支持欧洲议会 2018 年 9 月 12 日决议及相关努力，呼吁尽快形成共同、具法律约束力的立场，处理人的控制、监督、问责、国际人权法与国际人道法的实施及军事战略问题，并联系欧盟条约第 3 条促进和平的目标。此处记录当时立场，不代替今天相关法律与外交进展。
潜在的长期问题
原文认为，当时 AI 开发仍以具体领域为中心，需要受过训练的研究者和工程师明确目标。把时间尺度推远，可以设想某些重大长期关切。
采取风险方法时，应考虑“未知的未知”及黑天鹅事件。黑天鹅指极少见但影响重大的事件，可能从未被观察到，因此其概率估计通常高度不确定。潜在后果重大、发展方向又不确定，意味着应定期评估。
原文脚注列举通用人工智能、人工意识、人工道德代理、超级智能、变革性 AI 等当时尚不存在的设想，同时指出许多人认为这些并不现实。这里保留原版对分歧的说明，不把这些设想或某个时间表当成事实。
结论
AI 已经并将继续在商业和社会方面产生积极影响，但相关风险和其他负面影响需要恰当、适度地处理。
AI 兼具变革和颠覆作用。大量数字数据、计算和存储能力进步、方法与工具上的科学工程创新，推动了近年的发展。它仍将以尚无法想象的方式影响社会与公众。
正因如此，需要值得信任的系统。只有技术以及背后的流程和人都可信，人们才能有信心、充分地享有益处。因此，可信 AI 是本指南的基础目标。
可信 AI 有三个组成部分：合法，遵守所有适用法律法规；合乎伦理，遵循原则与价值；稳健，在技术和社会层面避免善意之下的无意伤害。每一部分都必要但单独不足，理想状态是协调并相互交叠，发生冲突时应努力调和。
第一章提出基本权利及相关伦理原则；第二章列出七项要求及技术、非技术实现方法；第三章提供评估清单帮助落实。最后的机会与关切旨在推动进一步讨论。
原文把以公众为中心、根植于欧盟条约的立场视为欧洲的独特基础，希望通过可信 AI 支持创新与技术发展，促进个人和集体福祉，使所有人在尊重基本权利、民主与法治的前提下获得 AI 益处。
术语表
以下术语按本指南的用法解释，帮助理解原文，不代表所有领域都采用相同定义。
人工智能或 AI 系统
AI 系统是人设计的软件系统，也可能包含硬件。给定复杂目标后，它通过获取数据感知环境，解释结构化或非结构化数据，针对所得知识推理或处理信息，决定为实现目标应采取的最佳行动，并在物理或数字环境中行动。
它可以使用符号规则，也可学习数值模型；还可分析先前行动怎样影响环境，调整行为。人既可直接设计，也可用 AI 优化设计。
作为学科，AI 包括机器学习，例如深度学习、强化学习；机器推理，例如规划、调度、知识表示与推理、搜索、优化；以及机器人，包括控制、感知、传感器、执行器，并将其他技术整合进信息物理系统。原版另有配套文件《AI 的定义：主要能力与科学学科》作进一步说明。
AI 实践者
开发（包括研究、设计、提供数据）、部署（包括实施）或使用 AI 的个人与组织；本指南在此术语中特意不包括仅以最终使用者或消费者身份使用系统的人。
AI 系统生命周期
包括开发阶段，涵盖研究、设计、提供数据及有限试验；部署阶段，涵盖实施；以及使用阶段。
可审计性
系统的算法、数据和设计流程能够接受评估的能力。不意味着商业模式和知识产权信息必须始终公开。设计早期就建立可追溯与日志机制，有助于审计。
偏差
对人、对象或立场的倾向或偏向。AI 中的偏差来源很多：数据收集和训练、规则设计者对特定情境的看法、在线学习与交互适应，以及按偏好定制的推荐和信息流。
偏差不一定来自人的偏见或人为收集的数据，也可能来自系统仅在有限情境中使用，无法推广到其他情境。偏差可能有益或有害、故意或无意；导致歧视或不公平结果时，指南称为“不公平偏差”。
伦理学
伦理学属于哲学，研究怎样的行动是好的、人的生命有什么价值、什么是正义、什么是美好生活等问题。通常分四个主要领域：
- 元伦理学：研究规范性语句的意义与指涉，以及它们是否有真值、怎样确定。
- 规范伦理学：探讨是非标准，为具体行动赋予评价，确定道德行动的路径。
- 描述伦理学：经验研究人的道德行为和信念。
- 应用伦理学：面对具体、往往在历史上新出现的情境或行动领域，研究有义务或被允许做什么。现实决定常受时间压力与有限理性约束；AI 伦理通常属于这一领域，聚焦设计、开发、实施和使用的规范性问题。
伦理讨论中的 moral 指具体文化、群体或个人在某时点实际存在的行为模式、习俗与惯例；ethical 则指从系统性学术角度，对这些行动和行为作评价。中文译法可能重叠，应依据上下文辨别。
合乎伦理的 AI
开发、部署和使用符合伦理规范的 AI，包括将基本权利作为特殊道德权利，以及相关伦理原则、核心价值。它是可信 AI 三个组成部分中的第二个。
以人为中心的 AI
使人的价值处于开发、部署、使用和监测的中心，尊重基本权利，包括欧盟条约和宪章中的权利。共同基础是人的尊严及独特、不可剥夺的道德地位。
这也要求考虑人类生态系统中的自然环境和其他生命，并采取支持未来世代充分发展的可持续方法。
红队测试
由红队或独立小组采用对抗角色或视角，挑战组织、改善有效性的实践，尤其用于发现和处理潜在安全漏洞。
可复现性
AI 实验在相同条件下重复时，是否表现出相同行为。
稳健的 AI
既包括按应用领域、生命周期阶段等具体条件适当实现的技术稳健，也包括充分考虑运行背景与环境的社会稳健。这有助于防止出于善意却造成无意伤害，是可信 AI 的第三个组成部分。
利益相关者
所有研究、开发、设计、部署、使用 AI 或直接、间接受影响的人，包括企业、组织、研究者、公共服务和其他机构、公民社会、政府、监管者、社会伙伴、个人、居民、劳动者与消费者。
可追溯性
能够持续追踪系统数据、开发和部署流程，通常通过有记录、可识别的文档来实现。
信任
原文借鉴研究，将信任理解为对善意、能力、诚信和可预测性的信念，愿意在风险情境下依赖另一方的意愿，或二者结合。
虽然通常不会把“信任”直接作为机器的属性，本指南强调，不只要相信系统合法、合乎伦理且稳健，也应能够信任生命周期内参与的人与流程。
可信 AI
同时包含合法、合乎伦理和技术与社会层面稳健这三个组成部分。可信性不只针对系统自身，也包含生命周期中所有流程与行为者。
脆弱个人与群体
由于情况多样，并不存在普遍接受、广泛同意的统一法律定义。何为脆弱通常取决于情境：童年或疾病等暂时人生阶段，信息不对称、市场权力等市场因素，贫困等经济因素，性别、宗教、文化等身份因素，以及其他因素，都可能发挥作用。
宪章第 21 条不歧视的事由可作为参考，包括性别、种族、肤色、民族或社会出身、遗传特征、语言、宗教或信仰、政治及其他见解、少数族群身份、财产、出生、残障、年龄、性取向。另有其他法律保护特定群体。任何列表都不穷尽，且会随时间改变。脆弱群体指共享一种或多种脆弱特征的一群人。
至此完成原指南的实质知识正文。可回到可信 AI 与伦理框架，或用评估清单检查具体系统。
参考与延伸阅读
原文：Ethics Guidelines for Trustworthy AI，2019 年 4 月 8 日，European Union，印刷页 32至38。欧盟数字战略原文入口。本页为非官方中文翻译，调整分篇、术语和版式；保留案例及脚注的实质知识补充，历史数字和预测已注明。末页个人身份名单及行政资料不在知识译文范围。
依欧盟再利用说明，原资料采用 CC BY 4.0，本页译文按相同许可提供，不表示原机构认可。
查询原文涉及的公共问题：世卫组织道路交通伤害用于查询更新统计；联合国可持续发展目标中文入口便于核对目标；欧洲议会 2018 年自主武器决议可核对历史立场。
历史项目可独立查询：BRIDGE 能源项目协作、Fabulos 公共交通项目、Sophia Genetics。入口用于理解原文案例，不表示这些服务获得本站推荐或其效果已经本站验证。