版本与阅读说明
本页为《广岛进程：面向开发先进 AI 系统组织的国际行为准则》2023 年 10 月 30 日版本的完整实质正文中文译文，对应原文件第 1至8 页。原文由 G7 广岛 AI 进程形成，经欧盟委员会发布。它提供自愿行动指引，并不等同于所有地区现行的强制法律。
下面保留原文件的适用范围、前言和十一项行动。组织承担哪些法律义务，还要按适用制度判断。译文中的“应”表达原准则的建议与承诺语气，不冒充中文官方译本。
前言：适用对象、生命周期与风险方法
本准则以《面向开发先进 AI 系统组织的国际指导原则》为基础，旨在促进全球安全、有保障和值得信赖的 AI。它为开发最先进 AI 系统的组织提供自愿行动指引，包括最先进的基础模型与生成式 AI 系统；下文将它们统称为“先进 AI 系统”。
组织应依据风险开展这些行动。可以支持本准则的主体，包括但不限于学术界、民间社会、私营部门和公共部门的实体。
这份行动清单并不穷尽所有情形。它是一份持续讨论和完善的动态文件，在既有 OECD AI 原则的基础上回应先进 AI 的近期发展，帮助利用技术收益，并处理相关风险与挑战。组织应把行动用于整个生命周期，在适当和适用时覆盖设计、开发、部署与使用。
文件将按需要审查和更新，包括持续开展包容性的多方利益相关者磋商，以保持对快速变化技术的适用性与响应能力。不同司法管辖区可以采取各自的方法，以不同方式实施这些行动。
在政府发展更持久或更详细的治理和监管安排期间，准则呼吁组织与有关利益相关者协商，按风险方法行动。准则同时承诺与 OECD、GPAI 和其他利益相关者磋商，提出监测工具与机制的建议，帮助组织对行动实施情况负责。组织也被鼓励通过分享良好实践，支持有效监测机制的发展。
此外，组织应建立内部 AI 治理结构和政策，包括自我评估机制，使行动实施和 AI 开发具有责任与问责基础。
在利用创新机会的同时，先进 AI 的设计、开发和部署应尊重法治、人权、正当程序、多样性、公平与不歧视、民主，以及以人为中心的取向。
组织不应以破坏民主价值、对个人或社区造成特别严重伤害、助长恐怖主义、促进犯罪滥用，或对安全、保障与人权构成重大风险等不可接受的方式开发或部署先进 AI。
国家必须履行国际人权法义务，充分尊重和保护人权；私营部门活动则应符合《联合国工商企业与人权指导原则》和《OECD 跨国企业准则》等国际框架。
以下十一项行动都应以与风险相称的方式实施。
一、在整个 AI 生命周期识别、评估和减轻风险
在先进 AI 系统的开发全过程，以及部署和投放市场之前与期间，采取适当措施识别、评价和减轻风险。
这包括采用多样的内部测试与独立外部测试，结合不同评价方法，例如红队测试，并针对发现的风险和薄弱点实施适当缓解。测试与缓解措施应努力确保系统在整个生命周期中可信、安全且有保障，使其不会造成不合理风险。为支持测试，开发者应使系统开发中的数据集、过程和决策能够追踪。这些措施应记录下来，并由定期更新的技术文档支持。
测试应在安全环境中进行，并设置在生命周期的多个检查点，尤其是在部署与投放市场之前。测试用来发现风险和薄弱点，帮助确定如何处理意外或故意造成的安全、保障、社会及其他风险。
设计和实施测试时，组织承诺按适当程度关注下列风险：
- 化学、生物、放射性与核风险：先进系统可能降低包括非国家行为体在内的主体开发、设计、取得或使用武器的门槛。
- 进攻性网络能力：系统可能帮助发现、利用薄弱点或将其用于行动。同时须注意，其中某些能力也可能有防御用途，适合在系统中保留。
- 健康或安全风险：包括系统之间互动、工具使用产生的影响，例如控制物理系统或干扰关键基础设施的能力。
- 模型复制风险：模型制作自身副本、“自我复制”或训练其他模型带来的风险。
- 社会、个人与社区风险：系统或模型可能产生有害偏差和歧视，或导致违反适用法律，包括隐私和数据保护规则。
- 对民主价值与人权的威胁：例如助长虚假信息或侵害隐私。
- 连锁影响：某个事件可能引发重大负面连锁反应，影响整个城市、整个活动领域或整个社区。
组织承诺与跨行业有关主体合作，评估并采用缓解措施，特别是应对系统性风险。
作出这些承诺的组织，还应努力推动相关研究与投资：包括先进 AI 的安全、保障、偏差与虚假信息、公平、可说明性与可解释性、透明度，以及提高系统面对滥用时的稳健性与可信程度。
二、部署后识别和减轻薄弱点、事件与滥用模式
在部署与投放市场以后，组织应按照风险程度，在适当时以预期方式使用系统，持续监测薄弱点、事件、新出现的风险和滥用，并采取相应行动。
例如，可以通过漏洞奖励、竞赛或奖项，鼓励第三方和使用者在部署后负责任地发现并报告问题。组织还应适当记录已报告事件，与其他利益相关者合作，减轻已经发现的风险和薄弱点。
在适合设置报告机制的情况下，应使多样的利益相关者都能使用，而不是只接受某一类人的反馈。
三、公开报告能力、限制与适当和不适当用途
组织应公开说明先进 AI 系统的能力、限制，以及适合与不适合使用的领域，以提供足够透明度并加强问责。
每次重要的新版本发布，都应有包含实质信息的透明度报告。报告、使用说明和相关技术文档应按需要保持更新，例如包括：
- 对潜在安全、保障、社会及人权风险开展了哪些评价。
- 模型或系统具有什么能力，哪些重要表现限制会影响适用领域。
- 对安全和社会影响与风险的讨论和评价，例如有害偏差、歧视、隐私或个人数据保护威胁，以及公平方面的影响。
- 为评价模型或系统能否从开发阶段进入后续阶段而进行的红队测试结果。
报告应清楚且可理解，使适当的部署者和使用者能够解释模型或系统输出，并正确使用系统。透明度报告还应有扎实的文档过程支持，例如技术文档与使用说明，而不只是宣传性陈述。
四、负责任地共享信息并报告事件
开发先进 AI 的组织应与行业、政府、民间社会和学术界合作，推动负责任的信息共享与事件报告。
可适当共享的信息包括但不限于评价报告、安全和保障风险、危险的预期或非预期能力，以及 AI 生命周期中规避防护措施的尝试。
组织应建立或参与相应机制，在适当时发展、改进并采用共同标准、工具、机制和良好实践，以确保先进 AI 的安全、保障与可信程度。
整个生命周期都需要适当、相关的文档与透明度，尤其对于可能对安全和社会造成重大风险的系统。
组织还应与生命周期中的其他组织合作，向公众分享和报告相关信息，以推进安全、保障与可信发展；适当时也应与有关公共主管机关合作并共享上述信息。报告过程应保护知识产权。
五、制定、实施并披露 AI 治理与风险管理政策
政策应以风险方法为基础，包括隐私政策和风险缓解措施。
组织应建立适当的内部机制，制定、披露并实施风险管理与治理政策。例如，通过问责与治理过程，在可行时贯穿生命周期识别、评估、预防和处理风险。
适当时应披露隐私政策，说明个人数据、使用者提示和先进系统输出等资料的处理方式。组织应按照风险方法建立并公开治理政策及其实施机制，并使问责与治理过程能够在生命周期中评价和减轻风险。
风险管理政策应在适当、相关时把风险管理框架用于整个生命周期，覆盖系统相关的多种风险，并定期更新。
组织还应通过政策、程序与培训，使工作人员了解自己的职责和组织的风险管理实践。
六、投资并实施稳健的安全控制
整个生命周期都需要物理安全、网络安全和内部威胁防护。
措施可以包括保护模型权重、算法、服务器与数据集，例如实施信息安全的运行措施，以及适当的网络与物理访问控制。
组织应评估网络安全风险，建立网络安全政策，并采取充分的技术与组织解决方案，使先进 AI 的网络安全与具体情形和相关风险相称。
模型权重应在适当安全且访问受限的环境中存储和使用，以降低未经批准发布与未经授权访问的风险。这还包括建立薄弱点管理过程，定期审查安全措施，使其保持较高标准并持续适合当前风险。
组织也应建立稳健的内部威胁识别计划，其保护程度应与最有价值的知识产权和商业秘密相称，例如限制对专有且未公开模型权重的访问。
七、建立可靠的内容认证与来源机制
在技术可行时，开发和部署水印等可靠机制，使使用者能够识别 AI 生成的内容。
对于组织的先进 AI 系统制作的内容，应在适当且技术可行时提供内容认证与来源机制。来源资料应包括生成内容的服务或模型标识，但不必包含使用者信息。
组织还应努力开发工具或 API，让使用者判断某个内容是否由其先进 AI 系统生成，例如通过水印。组织应按需要合作并投资研究，推动这一领域的发展。
此外，还应考虑标签、声明等其他机制，在可能且适当时，让人知道自己正在与 AI 系统互动。
八、优先研究和投资有效的风险缓解
优先开展缓解社会、安全与保障风险的研究，并把投资投入有效措施。
这包括开展、合作进行和投资支持安全、保障与信任的研究，处理关键风险，并开发适当缓解工具。
组织承诺优先研究维护民主价值、尊重人权、保护儿童与脆弱群体、维护知识产权与隐私，以及避免有害偏差、错误信息、蓄意虚假信息和信息操纵。还承诺投资适当工具，主动管理先进系统的风险，包括环境与气候影响，使技术收益能够实现。
组织被鼓励分享风险缓解研究和良好实践。
九、优先应对全球重大挑战
优先开发能够应对全球重大挑战的先进 AI，尤其包括但不限于气候危机、全球健康和教育。
这些努力应支持联合国可持续发展目标，鼓励面向全球共同利益的 AI 开发。
组织应负责任地维护可信且以人为中心的 AI，支持面向公众的数字素养教育和培训，包括学生与劳动者，使他们能够从先进 AI 使用中受益，也帮助个人与社区更好理解技术的性质、能力、限制和影响。
组织应与民间社会和社区团体合作，识别优先挑战，开发创新方案，应对全球最重要的问题。
十、推动国际技术标准
推动国际技术标准的发展，并在适当时采用。
组织被鼓励参与国际技术标准与良好实践，包括水印标准；在制定测试方法、内容认证与来源机制、网络安全政策、公开报告等措施时，与标准制定组织合作。
尤其应努力发展具有互操作性的国际技术标准和框架，帮助使用者区分 AI 生成与非 AI 生成内容。
十一、采取适当的数据输入与权利保护措施
组织应适当管理资料质量，包括训练资料和资料收集，以减轻有害偏差。
措施可以包括透明度、保护隐私的训练技术，以及测试或微调，确保系统不会泄露机密或敏感资料。
组织应采取适当防护，尊重隐私和知识产权相关权利，包括受版权保护的内容，并遵守适用法律框架。
关联阅读
可以先读可信 AI 的伦理框架，再完成行为准则阅读与反思。反思时应指出本页的具体风险与对应措施，而不只写出“安全、公平、透明”等名称。
参考与延伸阅读
原作品：*Hiroshima Process International Code of Conduct for Organizations Developing Advanced AI Systems*，2023 年 10 月 30 日。来源与权利说明：European Union，经欧盟委员会 Digital Strategy 发布。本页进行了中文翻译、网页分章与术语整理；不含发布页的第三方图库照片，不表示获得原机构认可。
- 欧盟委员会发布页与原文件：英语，可核对八页原文与版本。
- 欧盟数字资料再利用说明：英语，说明来源标注、改动与第三方素材的边界。
- CC BY 4.0：许可说明。本页译文按该许可提供，网站其他内容的条件另行判断。