AI 伦理四项原则：比例、隐私、公平与透明

阅读目标与导言

本页是中文译文，讨论四项经常出现的 AI 伦理原则：比例原则、隐私与数据保护、公平与无偏见、透明与可解释性。每一项都从概念走向实际判断，并配有反思或阅读方向。

伦理框架不只有一种。不同机构的表述与分类各有侧重，但常常围绕相近的问题：怎样保护人，怎样分配收益，怎样减少伤害，以及出错后由谁负责。先看四项原则，再阅读后面的配套视频文字稿，理解它们与更广泛框架的关系。

一、比例原则：收益是否值得所造成的影响

对于 AI 使用者，比例原则尤其重要。我们已经认识到生成式 AI 可能带来环境、社会、个人和经济影响。比例原则要求，每次使用时都判断：获得的收益，是否超过在这些维度造成的伤害。

这不只是问“工具能不能做”，还要问“值得这样做吗”。请思考：

• 我真的需要 AI 完成这件事吗？是否有环境代价更小、同样能达到目的的方法？
• 谁参与其中，谁会受到影响？
• 对每个相关方，会产生哪些积极和消极影响？

开发者也需要考虑比例原则，特别是下面两个方面。

效率关注，用怎样的计算投入完成任务。面对同一个设计问题，应寻找计算需求较低的可行方案，也要考虑环境代价。原资料以企业的碳中和承诺及植树等抵消项目为例；这属于当时的实践介绍，不代表抵消已经消除了实际排放，也不是对企业当前承诺完成情况的核验。

有效性关注，AI 是否真的产生了预期效果。“有效”本身并不简单，至少包含技术上能运行、市场上能销售，以及对实际使用者产生有意义影响这几个方面。

教育技术就是一个例子。产品可能运行流畅、展示漂亮、推广成功，却没有足够研究证明它改善了学习。要判断效果，需要看到实际影响的证据，不能把技术能力或市场接受度直接等同于学习收益。

原阅读活动建议比较两类文章：一类讨论衡量教育技术影响的主要困难，另一类质疑现有产品的研究方法能否证明它们承诺的效果。保存的原文没有保留这些目标网址，因此这里保留阅读问题，不猜测或补造原链接。

二、隐私与数据保护：信息怎样受到约束

AI 专门政策逐渐增加，但隐私保护并不只靠一部 AI 法律。原资料指出，实际约束来自多种规则的交织，包括隐私、数据保护、网络安全、竞争、侵权和消费者保护等制度，其中个人信息与隐私法规尤其突出。

阅读时可以带着两个问题：不同地区的数据保护趋势怎样变化？隐私问题又怎样与歧视交织，例如监控和人脸识别对不同群体可能产生什么影响？原资料中的“2025 年趋势”属于当时的观点性阅读，不能自动延伸为当前政策结论。

原资料中的地区比较

下面保留原表比较的对象与主要内容，并把需要纠正的简化单独标明。它用于理解制度差异，不能替代对具体法律条文、适用范围及案件事实的核查。

原表还列出罚款：加拿大最高 10 万加元；中国最高 100 万元人民币；欧盟按类别列为最高 1,000 万欧元或全球年营业额的 2%，以及最高 2,000 万欧元或 4%。原表把外币数额换算为加元，这种换算随汇率变化，不能作为固定标准。

译注：原表对处罚的概括不完整。PIPEDA 的部分故意违法行为可构成违法罪行，10 万加元也不是所有隐私救济的统一上限；中国《个人信息保护法》第六十六条对严重违法另规定最高 5,000 万元人民币或上一年度营业额 5% 的罚款等措施。其境外适用范围也取决于法律规定的处理活动，不能概括成“所有中国公民在境内外的一切数据”。原表把“保留期限”写成最低期限，通常应关注实现处理目的所需的最短时间及法定例外。具体情形应查询正式条文。

原文随后指出，各地往往依靠多项制度组合，执法方式和处罚数额会有显著差别，并提到欧盟各成员国的数据保护机关及一系列大型平台案件。原文给出的累计罚款“60 亿欧元”为没有明确统计截止日期的历史数字，不应当作当前总额。

译注：原文把这些制度的后果概括为“罚款而非刑事指控”，过于绝对。隐私违法还可能涉及命令、业务限制、民事责任，某些行为亦可能构成罪行。保留这一比较的目的是理解监管方式，不能把它当成排除其他责任的依据。

查看图解文字说明

原始资料先做必要性检查与最少化，在权限范围内检索片段；使用外部模型时，问题及片段会传至供应商。回答输出、访问日志、缓存和备份分别有用途与保存期限。资料未用于训练，不表示资料没有被传输。

图中强调先减少不必要个人信息，再控制检索和传输范围，回答与日志也需要权限和保留管理。

三、公平与无偏见：谁被代表、谁能使用、谁承受结果

公平与无偏见强调包容以及平等对待，不因种族、宗教、信仰、性别、残障或其他用于区分人群的特征而不当歧视。原讲解把问题分为代表性、可及性和输出三个方面。

代表性

先看开发阶段使用了哪些数据：相关人群是否得到充分、恰当的代表？如果贷款数据主要来自男性，系统可能无法公平地判断女性申请者。历史数据即使覆盖不同人群，也可能记录着过去的不平等；模型学习这些记录后，有可能放大原有偏见。

预测性警务是另一个例子。如果某些社区过去被更频繁巡查，记录的事件也可能更多。把记录数量直接当成真实风险，可能进一步加强对这些社区的关注，形成循环。这里的问题不只是“有没有数据”，还包括数据怎样产生，以及使用它会产生什么后果。

可及性

不同社区或群体是否有机会使用先进技术？在 AI 出现之前，数字鸿沟已经存在，既包括一个国家内部，也包括国家与地区之间。基础设施、费用、语言等因素，都会影响技术能否被实际使用。

AI 和生成式 AI 有可能扩大这些差距，而不一定自然消除差距。应观察谁能获得设备、连接、语言支持与使用能力，以及技术收益最终流向谁。

输出

生成式 AI 不仅用于分类或预测，还会生成文字与图片，因此偏差也会体现在“谁被画成什么样”“哪些职业与哪些人关联”“某种表达是否把特定群体排除在外”。

原阅读活动建议，分别阅读图像生成器与文字生成器的偏差研究，并可选择学术论文或较易读的解释。比较时注意：研究检查的是哪些提示、哪些模型、什么时间的版本，以及怎样定义和衡量偏差；不要把某一次示例当成全部系统的表现。

四、透明与可解释性：能检查什么，能追问什么

透明与可解释性，通常与可靠性、责任和人权一起构成“可信 AI”的讨论基础。

透明性关注，系统及其决策过程在多大程度上能接受相关方检查。使用了什么数据？采用什么处理方法和算法？哪些模型特征会影响判断或输出？这些内容能否接受审计？

可解释性更关注具体结果：使用者、监管者等能否理解，某个决定为什么产生，以及这个决定能否得到合理说明。

两者还与救济相连。如果一个系统的结果侵犯了人的权利，或造成不平等待遇，当事人应该有途径提出异议，并获得独立审查。原文用普通商业场景作类比：如果商家因为你的身高拒绝服务，你可能提出投诉或寻求司法救济。AI 的责任链有时更复杂，但复杂不应成为无人回应的理由。

原阅读活动邀请进一步了解两个问题：为什么透明与可解释性在实践中困难？其中又有哪些技术障碍？阅读时要区分“告诉用户这里使用了 AI”“披露开发资料”“解释某一次决定”这几个不同层次。

完成后，可以用伦理反思练习检查自己常用的一项应用。

视频文字稿：不同伦理框架怎样相互连接

AI 伦理框架很多，这里选择四个视角：欧盟、IEEE、OECD 与 UNESCO。原讲解把前三者放在 2019 年前后，把 UNESCO 文件标为 2022 年。

译注：UNESCO 建议书于 2021 年通过，相关出版物发表于 2022 年。下面是原讲解对原则的归类，不替代正式文件的完整结构。

这些组织的角色不同。IEEE 是专业组织，关注工程及相关人员；欧盟、OECD 和 UNESCO 更多涉及地区、不同国家与跨国治理。因此，它们强调的对象和语言也有差别。

原讲解数出不同数量的原则，同时提醒，有些标题把多个概念放在一起。因此，不能只用“七项”“五项”或“六组”判断框架相同或不同。

欧盟、IEEE 与 OECD 的侧重

原讲解归纳欧盟的重点，包括保护人的自主、避免伤害、公平、可解释性、隐私和资料保护，以及数据质量、完整性和访问。它特别注意资料怎样被使用与处理。

IEEE 则强调人权、人的福祉，设计者和运营者的问责，透明，以及减少滥用。它把建设者和使用者两边都放进来，值得注意。误导信息就是需要防止的滥用之一。

OECD 特别强调让所有人分享 AI 收益，包括一国内部和跨国的人群。它把这个方向表述为包容增长，相关问题就是数字鸿沟：谁能取得技术，谁不能；谁得到机会，谁被落下。

数字鸿沟并非 AI 出现以后才有。原讲解提到，这个词在 20 世纪 90 年代已广泛使用，尽管一直有技术跨越式发展的设想，差距却没有自动消失。

OECD 其他方向包括人权、透明与可解释性、稳健与安全，以及问责。你会看到一些概念反复出现，只是组织方式不同。

比例原则与避免伤害

原讲解把 UNESCO 的若干原则合并为几组，先看比例原则与避免伤害。比例原则直接比较收益和代价：使用 AI 带来的帮助，是否值得已经造成或可能造成的伤害？

完全不造成伤害，是一个很难简单满足的目标。需要观察环境、准确性、人的能力与关系等取舍。原讲解以计算资源消耗、思考练习减少、互动方式变化，以及速度与准确之间的张力说明。

译注：原文把某些代价说成必然，例如 AI 总比人工处理更不环保，或总会损害认知，这过于绝对。应该比较具体替代方案与实际使用方式。保留的是取舍问题，不是普遍有害的结论。

因此，比例原则不是只说技术有风险，也不是只说它提高效率，而是把具体风险与收益放在同一情境里衡量。

安全、保障与隐私

安全和保障比隐私范围更广。系统是否真正有效、是否适合使用环境、是否伤害部分人群，可以与公平问题相交；从网络安全角度，还要看是否得到保护、是否容易被滥用。

隐私与资料保护则进一步问：是否因为泄露、出售或不当分享资料而伤害个人？是否保护信息免遭滥用？这些问题相互关联，不能只用一个设置开关概括。

多方治理与合作

另一组原则关注多方参与和合作。原讲解说，个人使用者不一定直接参与政策谈判，但其背后已有复杂的资料保护、访问与管辖规则。

有些国家的政策会互相回应，围绕谁可以取得什么资料、何时取得、谁有权要求披露等问题形成竞争或冲突。合作的呼吁，是希望在跨境影响下共同处理，而不是每个参与者只看自己的便利。

责任与问责

问责贯穿多个框架。设计不良、缺少明确负责人或责任链的系统，会让人难以追溯谁应当处理后果。开发或使用不当，也可能造成歧视、不公平及其他社会伤害。

因此，需要能够追踪的责任关系、适当审查和纠正机制，使系统从开发到实际运行都有人负责，而不是最终以“AI 作出的决定”结束讨论。

透明与可解释性

告诉人们自己正在与 AI 互动，是可以做到的起点。但更深入的透明涉及过程、机制、算法、数据与其他输入，是否能由适当第三方检查。

公开这些内容也可能遇到知识产权与商业保密。机构不愿分享，并非所有困难的唯一来源；技术本身也可能难以解释。

可解释性则试图把输入与具体结果连接：为什么在这个案例中作出这个决定，它是否合理、能否得到说明？这些问题关系公众信任。

复杂模型会出现所谓黑箱问题：即使希望说明，也难以完整追踪某个输出的全部形成过程。不能因为困难，就不再提供责任与救济。

如果人认为 AI 对自己造成不当影响，能否向适当机关、独立第三方、仲裁者或司法机构提出问题，得到处理？普通商业中人有投诉途径，AI 系统也需要在相应制度下接受审查。

原讲解最后邀请根据兴趣与基础，选择较易读或较专业的材料。可以先认识共同原则，再通过具体应用和不同框架的比较，逐渐深化理解。

关联阅读

用伦理原则反思练习检查一个自己常用的应用，再到可信 AI 框架比较组织层面的监督与责任。

参考与延伸阅读

以下为编辑补充及译注核验入口，不冒充原资料未保留下来的文章链接。

• UNESCO 人工智能伦理建议书：英语，核对通过时间及比例、公平、隐私、透明等正式原则。
• OECD 人工智能原则：英语，了解包容增长、人权、透明、稳健性及责任的关系。
• 加拿大隐私专员：安全保障泄露的报告要求：英语，查询 PIPEDA 相关职责及违法行为说明。
• 中国《个人信息保护法》第六十六条等正式文本：中文，核对处罚与法律责任的具体条款。
• 欧盟 GDPR 正式文本：多语言，查询保护要求及第八十三条的罚款分类。