阅读目标与导言
本页为中文译文。我们从不同层次理解 AI 挑战与伦理困境,并学习怎样阅读影响研究。分类是为了帮助思考,实际影响往往相互重叠:个人行为的变化可能进一步影响人际关系、劳动市场与环境。
一、个人影响
AI 可能影响工作、购物、身体与心理状态,以及知识、技能和思考方式。推荐算法怎样安排我们看到的内容,是一个值得研究的入口:它可能让信息更容易获得,也可能不断强化既有偏好。
原资料提出,AI 也可能用于心理、医学、视觉治疗及人的发展支持,并邀请阅读关于心理支持工具、特定医疗诊断任务表现的研究。阅读这些材料时,要区分具体实验任务、测试人群、比较基线与真实使用条件。
译注:原资料将“人的大脑已经因 AI 改变”作宽泛陈述,不能据此推断每种使用都会损害或改善认知。“在某项测试优于人”也不代表可以独立承担临床工作。这里讨论的是影响研究与评价,不是诊疗建议。医疗系统的安全性、有效性与责任仍须分别验证。
二、人际与社区影响
生成式大模型出现以前,就已经有面向陪伴与关系的机器人和聊天产品。原资料举出面向儿童语言和学习支持的机器人,以及 2017 年推出、以成人陪伴为目标的 Replika。
生成式能力使辅导、心理支持等原本主要由人提供的互动出现更多应用。长期依赖这些互动,会怎样影响与真实人的关系,仍需持续研究。系统越来越像人,并不自动意味着关系更有益。
原资料还提供一个特殊观察角度:当陪伴产品更新,使用者感觉失去熟悉的 AI“朋友”,可能出现怎样的反应?这个问题有助于理解,人的依恋也会受产品规则、商业决策和系统变化影响。
三、社会结构与劳动市场影响
AI 也进入情报、军事、政治传播等领域,例如深度伪造和定向政治信息。对许多人而言,更直接的影响来自经济和工作变化。
生产率与利润可能提高,但业务流程改变也会影响工作任务、技能需求和劳动者处境。因此,不能只看组织效率,还要问:哪些任务减少,哪些任务增加,谁得到新机会,谁承受调整成本?
原阅读活动提供两个方向:一是通过零工平台的职位发布研究生成式 AI 出现后需求怎样变化;二是阅读一份研究的指定章节,了解企业与流程的潜在影响。保存文本没有保留可精确确认的全文链接,不能用另一篇近似研究冒充原阅读。
四、环境影响
更大模型、较长输入与输出,以及为训练制作合成数据,都可能增加资源需求。除了电力,还要考虑数据中心冷却、用水、设备制造和处置。
原资料用 2025 年 2 月“每周约 4 亿用户”的历史报道,尝试按较早“100 万用户、每年 8.4 吨排放”的估计放大,得到 33,600 吨及相当于约 2,240 名加拿大人年排放的说法。
译注:这段外推不能作为可靠排放估计。仅按给出的数做乘法,8.4 × 400 应为 3,360,而不是 33,600;更根本的是,周活跃用户不能直接代表全年请求量,不同年份的模型、请求长度、硬件、电力与核算范围也不同。原始估计的出处和边界未完整保留,因此不继续使用该结果推算人均等值。应以实际工作负载和清楚的生命周期边界衡量。
文字生成也不是所有任务中资源消耗最高的一类。后面的视频讨论不同任务之间的差异,并提醒我们观察直接与间接影响。
原阅读活动还邀请比较两类材料:AI 环境负担在不同地区分配是否均衡,以及当前数据收集与储存方式有什么环境代价。
视频文字稿一:四个层次怎样相互连接
为了便于思考,可以把影响分成个人、人际、社会结构和环境四类。一个影响可能横跨多个类别,因此这不是绝对边界。
个人层面涉及大脑、身体和心理状态。某些研究探索 AI 对诊断或心理支持的帮助,同时也要考虑依赖、过度依赖和思考方式变化。具体益处取决于系统与验证条件。
人际层面涉及与他人的互动、角色和社区。社交平台的推荐算法可以让地理上相隔很远、兴趣相近的人形成社群;同样的机制也可能与隔离、心理困难等问题相互作用。
社会结构层面主要包括地缘政治与劳动。军事无人机、情报、深度伪造与定向宣传,都是原讲解列举的用途。一些研究讨论它们可能影响政治过程;生产率、利润和经济增长的预测,则与劳动市场变化引发的担忧同时存在。
环境层面关注水、电力与排放,以及生产、运输、运行和处置设备的直接代价。也有间接影响:例如改善建筑维护或农业生产效率,可能减少资源浪费;但是否净受益,要连同采用系统本身的代价一起比较。
因此,每个层次都可能有正负影响,应结合具体案例观察困境怎样产生。
视频文字稿二:从一次请求到环境代价
生成式 AI 的环境代价,常常离使用者的直接感受很远。坐在电脑前输入一句话或生成一张图片时,人不容易看到模型训练和基础设施投入;也可能认为“训练已经完成”,于是忽略持续使用的代价。
原讲解引用比较不同任务的研究,从专门的分类系统到生成模型与图像生成,说明任务之间存在显著差异。图表使用对数坐标,因此横跨多个数量级的差别不应按普通直线刻度理解。
原讲解读取的示例为:每 1,000 次文字分类请求约对应 0.3 克二氧化碳,文字生成约 10 克;某个高消耗图像模型的两次请求,能耗大致相当于给手机充电一次。
译注:这些数字是原讲解对特定研究和图表的说明,不是所有当前服务的统一系数。不同研究可能报告能量或碳排放,二者需通过电力碳强度等条件转换;平均值、最高值、任务长度和硬件也不能混用。“手机充电”只是有条件的比较,不适用于任意两次图像生成。
每天的请求量很大,单次不明显的资源消耗就会累计。直接影响包括生产、运输、运行与处置;间接影响则可能正面,也可能负面。
农业自动灌溉是正面的例子:如果根据实际情况供水,可能比每天固定浇水数小时减少浪费,也可以与已经节水的滴灌、定时方案继续比较。
负面间接影响包括消费增加和过度使用。如果为了给另一个 AI 想提示,又增加一层调用,就应问它带来了什么额外收益。食谱应用若减少食物浪费,可能产生收益;若没有,则不能只因使用了 AI 就宣称环保。娱乐用途也应结合实际需求和资源衡量,而不是把所有用途都按同一个结论判断。
减少环境负担的一条路线是数据管理:优化并限制不必要的收集与储存,不继续保留已经不需要的数据。原讲解提到某些企业可能有高比例“暗数据”,并举出最高 80% 的说法,但保存材料未提供可核对统计,不能推广到全部企业。
“暗数据”也不只等于使用一次的数据,更通常指已经收集或保存、但未被有效使用或分析的资料。判断删除与保留,还应考虑实际业务和法定要求。
原讲解继续提到聚合式储存或资源共享的设想,并主张审慎评估合成数据的生成成本。合成数据可以在适当场景解决缺样本等问题,但生成本身也消耗资源,不能默认越多越好。
开放、共享且许可适当的数据集,有可能减少多家公司对相同资料的重复抓取、存储与处理。这里仍存在知识产权、商业与治理难题。原讲解倡议合作,甚至可能需要政策协调;这不等于公开可见的数据可以不经授权任意取用。
最后要明智地选择模型。如果专门系统已经能满足任务,不必默认采用更大的通用模型。即使需要生成能力,也可以比较架构、参数规模和输出长度。用适合任务的较小实现、避免无必要的长输出,是值得验证的优化方向;最终仍需检查是否达到同样质量要求。
下一步练习
用AI 伦理影响研究练习选择一个实际案例,说明困境、原因、证据与可行改善,而不是只列出“有好处也有坏处”。
关联阅读
衡量伤害时可回看四项伦理原则;想研究一个具体案例,可继续做伦理影响研究练习。
参考与延伸阅读
以下是编辑补充与研究查询入口;原资料中缺少具体链接的阅读没有被标成已补全的原参考。
- Power Hungry Processing 研究:英语,查询不同模型任务推断阶段的能耗比较和实验边界。
- IEA:Energy and AI:英语,了解数据中心、能源与 AI 的系统性分析,区分整个数据中心行业与 AI 专用负载。
- WHO:大型多模态模型的伦理与治理:英语,了解医疗应用所需的验证、治理与责任,不能用实验表现替代实际安全评价。