阅读目标与导言
本页为中文译文。我们在比例、隐私、公平、透明四项原则的基础上，继续理解可信 AI，比较两个治理框架，并思考收益、风险与责任。
可信不是一个宣传标签。原资料用欧盟指南中的三个方面说明：合法、符合伦理，以及稳健。稳健既涉及技术，也涉及系统所处的社会环境。
一、广岛 AI 进程的行为准则
原资料介绍 G7 推动的广岛 AI 进程，目标是促进先进 AI 系统的安全、保障与可信使用。G7 包括加拿大、法国、德国、意大利、日本、英国和美国。
相关国际行为准则面向开发先进 AI 系统的组织，原文强调其十一项行动及风险导向。阅读时可回答：
- 文档明确识别了哪些安全、保障或社会风险？请找出三个。
- 它建议开发者或企业采用哪些措施？请找出至少两种，并说明对应哪种风险。
本页保留导读与配套文字稿。需要阅读准则时，可直接进入十一项行动的完整中文译文，其中分别说明风险、测试、报告、治理和数据措施。
二、欧盟可信 AI 伦理指南
原资料介绍基本权利、伦理原则、七项关键要求，以及不同权利或原则冲突时的处理问题。
指南的实质知识正文已按原章分为五篇：摘要、引言与框架、权利与四项原则、七项要求与方法、完整评估清单、机会、关切与术语。
阅读时思考：可信 AI 的三个基础组成是什么？七项要求分别意味着什么？当原则相互冲突，文档建议怎样处理？
它与广岛准则的读者范围不同：不只面向开发者，也面向部署者、决策者与其他相关方。范围较广，使它能够跨角色讨论，但在实际应用时还需要转成具体措施。
三、对自主能力保持审慎
原页面还提到一段公开研究访谈，讨论为什么应谨慎推进更强自主系统。现有档案没有这段视频的可核对全文，因此这里不补写发言内容，也不根据简介推断具体论证。
可以结合Agent 的工具与监督边界，思考能力提升以后，为什么控制、纠错与责任也必须跟上。
视频文字稿：原则复习与两份框架
前面把伦理问题分成四组。先复习比例原则：把成本与收益放在一起以后，使用 AI 是否有充分理由？让人真正考虑这件事，是很多框架的基础。
相关内容也包括尊重基本权利，例如表达自由、免受不当拘禁、不被欺骗或受到无根据伤害。这些不是简单用效率就能抵销的问题。
还要有救济途径。如果 AI 对某个人作出贷款或其他机会方面的决定，当事人认为不公平，能否提出异议？由谁独立处理？不能因为决定由技术产生，就取消查询与纠正。
系统停用和产品退出也在考虑范围内。服务商消失，资料怎么办？输出和相关设备怎样处置？这些应有安排，而不是只计划开始使用。
隐私与数据保护
隐私和资料保护长期重要，原讲解也把它放在大规模资料收集的背景中。适用规则会因国家与地区不同而不同，因此首先要知道自己处在什么条件下。
一般要考虑资料最小化：只收集完成目标所需内容。第三方共享和访问也应说明清楚；如果资料会被出售，用于其他收益或产品，不应让使用者毫不知情。
同时，保护资料免受未经允许的操纵和改动，也是这个范围的一部分。不能只关心最初有没有征得同意，却忽略后来的访问与用途。
公平与预期使用者
公平需要平等机会，也需要定义产品面向谁。要求每一项技术服务全世界每一个人，不一定现实；但在合理定义的使用人群内，应检查不同种族、宗教、性别、能力等人群是否得到公平对待。
不同地区对受保护特征的规定会有差别，因此需要结合适用条件。开发和测试时，应认真检查资料与结果；完全没有偏差很难做到，但至少要主动发现差异，说明限制，并提供改进。
有些限制可以有正当理由。例如，只为成年人设计的产品，不一定应该让儿童使用。重点是限制是否有依据，而不是用一个含糊的“预期用户”把不愿服务的人排除。
透明、解释与人的控制
为什么采用 AI，谁负责监督与控制，使用者知不知道 AI 参与？后一点很重要，因为某些界面并不容易辨认。
从公共治理和独立监督角度，还会关注适当第三方审计。企业可能有知识产权与商业保密顾虑，但至少应提供必要的人类控制、问责和处理途径。
原讲解接着比较两份国际指导文件。它对监管仍在发展的描述属于当时背景，不应解释成今天某地没有约束或可以不遵守已有法律。
广岛 AI 进程
G7 包括加拿大、美国、英国、法国、德国、意大利和日本。它是一种政府间政策协调论坛，与具有不同正式结构的国际组织并不相同。
2023 年，广岛 AI 进程回应生成式能力与基础模型的发展，提出面向开发先进 AI 系统组织的国际行为准则。它建立在 OECD AI 原则等基础上，主要面向开发组织，而不是所有个人使用行为的统一操作手册。
OECD 把原则分成五组，但每组都可能包含多个方面。第一组把福祉、可持续发展和包容增长联系起来，既涉及经济，也涉及地球与社会。第二组强调人权和民主价值，并涵盖隐私与公平。
第三组是透明与可解释性。原讲解提醒，这两个词有重叠，不同作者的使用方式也不同。透明可以关心人是否知道自己正在使用 AI，是否有足够信息理解互动和提出问题；可解释性可以进一步关注资料、算法和具体结果怎样连接。
阅读时应采用文档自己的定义，不要因为两个词经常并列，就认为无需区分。
第四组讨论稳健、安全和保障：系统是否工作、是否安全、是否受到保护。第五组是责任与问责。它们是彼此连接的要求，不是可以任选其中一项。
欧盟可信 AI 指南
另一份材料是 2019 年欧盟可信 AI 伦理指南。它由相关专家组形成，面向开发、部署、政策与其他相关方，读者范围比主要聚焦开发组织的广岛准则更广。
范围较广有好处，也会让实际实施时需要再转化成角色与任务；相关配套材料可以进一步帮助落地。
原讲解列出七项要求：人的能动性与监督；技术稳健与安全；隐私与数据治理；透明；多样性、不歧视与公平；社会与环境福祉；以及问责。
你会看到，这些主题与 OECD 有很多共同点，只是排序和归组不同。社会与环境影响在一份文件中排得较后，在另一份中则可能放在首组；问责列在最后，也不能推断它不重要。
接下来通过阅读两份材料，比较它们哪里相同、哪里不同，目标读者和建议怎样影响实际采用。这样才能逐渐理解“可信 AI”在不同情境中具体意味着什么。
关联阅读
四项原则的具体例子见AI 伦理四项原则；对于行动与责任的不同定义，可继续读智能与能动性。
参考与延伸阅读
以下为正式框架的查询入口；本页译文范围仍为现有导读与配套文字稿。
- 欧盟：Ethics guidelines for trustworthy AI：英语，查询三项组成、伦理原则和七项要求。
- 欧盟委员会：广岛 AI 进程行为准则：英语，查询行为准则与相关报告机制。
- OECD AI 原则：英语，用于比较框架的共同主题。