AI 基础 1:概念与工具 / 中文译文

生成式 AI 风险:个人、社会与环境责任

从个人、人际、社会结构与环境四个层次理解生成式 AI 风险,保留影响案例和完整视频讲解,并说明历史统计与排放外推的局限。

风险与责任2 份配套文字稿开始阅读 ↓
正在准备中文语音…
音色与朗读设置

音色由浏览器和设备提供,可试听选择。AI、API 等常见英文缩写按字母朗读,字母之间稍作停顿;设备有英语音色时自动使用。暂停后从当前句继续;进度只保存在此浏览器。图解会读出文字说明,表格按行朗读。切换应用或锁屏后,部分设备会暂停。

也可以选中正文,直接追问那一段。

围绕当前文章

把不理解的地方问清楚。

普通搜索

回答附有原文章节依据,可继续追问,也可以进入完整讲解。

关于回答、隐私和使用额度

回答由 AI 根据本站已发布资料整理,可能有误,请结合原文核对。问题、选段与最近几轮对话会发送给 Cloudflare 的模型服务处理,请勿提交私人或保密资料。本站数据库不保存问题与对话正文;清空或刷新页面会结束本页对话。

问答使用有限额度:同一访问网络每天最多 10 次生成,全站每天最多 100 次;也可能因服务额度或繁忙暂时不可用。届时仍可查阅原文和普通搜索。额度按 UTC 日期重置。为限制滥用,临时保存按日加盐的访问网络摘要与计数,保留约两天并定期清理。

阅读目标与导言

本页为中文译文。我们从不同层次理解 AI 挑战与伦理困境,并学习怎样阅读影响研究。分类是为了帮助思考,实际影响往往相互重叠:个人行为的变化可能进一步影响人际关系、劳动市场与环境。

一、个人影响

AI 可能影响工作、购物、身体与心理状态,以及知识、技能和思考方式。推荐算法怎样安排我们看到的内容,是一个值得研究的入口:它可能让信息更容易获得,也可能不断强化既有偏好。

原资料提出,AI 也可能用于心理、医学、视觉治疗及人的发展支持,并邀请阅读关于心理支持工具、特定医疗诊断任务表现的研究。阅读这些材料时,要区分具体实验任务、测试人群、比较基线与真实使用条件。

译注:原资料将“人的大脑已经因 AI 改变”作宽泛陈述,不能据此推断每种使用都会损害或改善认知。“在某项测试优于人”也不代表可以独立承担临床工作。这里讨论的是影响研究与评价,不是诊疗建议。医疗系统的安全性、有效性与责任仍须分别验证。

二、人际与社区影响

生成式大模型出现以前,就已经有面向陪伴与关系的机器人和聊天产品。原资料举出面向儿童语言和学习支持的机器人,以及 2017 年推出、以成人陪伴为目标的 Replika。

生成式能力使辅导、心理支持等原本主要由人提供的互动出现更多应用。长期依赖这些互动,会怎样影响与真实人的关系,仍需持续研究。系统越来越像人,并不自动意味着关系更有益。

原资料还提供一个特殊观察角度:当陪伴产品更新,使用者感觉失去熟悉的 AI“朋友”,可能出现怎样的反应?这个问题有助于理解,人的依恋也会受产品规则、商业决策和系统变化影响。

三、社会结构与劳动市场影响

AI 也进入情报、军事、政治传播等领域,例如深度伪造和定向政治信息。对许多人而言,更直接的影响来自经济和工作变化。

生产率与利润可能提高,但业务流程改变也会影响工作任务、技能需求和劳动者处境。因此,不能只看组织效率,还要问:哪些任务减少,哪些任务增加,谁得到新机会,谁承受调整成本?

原阅读活动提供两个方向:一是通过零工平台的职位发布研究生成式 AI 出现后需求怎样变化;二是阅读一份研究的指定章节,了解企业与流程的潜在影响。保存文本没有保留可精确确认的全文链接,不能用另一篇近似研究冒充原阅读。

四、环境影响

更大模型、较长输入与输出,以及为训练制作合成数据,都可能增加资源需求。除了电力,还要考虑数据中心冷却、用水、设备制造和处置。

原资料用 2025 年 2 月“每周约 4 亿用户”的历史报道,尝试按较早“100 万用户、每年 8.4 吨排放”的估计放大,得到 33,600 吨及相当于约 2,240 名加拿大人年排放的说法。

译注:这段外推不能作为可靠排放估计。仅按给出的数做乘法,8.4 × 400 应为 3,360,而不是 33,600;更根本的是,周活跃用户不能直接代表全年请求量,不同年份的模型、请求长度、硬件、电力与核算范围也不同。原始估计的出处和边界未完整保留,因此不继续使用该结果推算人均等值。应以实际工作负载和清楚的生命周期边界衡量。

文字生成也不是所有任务中资源消耗最高的一类。后面的视频讨论不同任务之间的差异,并提醒我们观察直接与间接影响。

原阅读活动还邀请比较两类材料:AI 环境负担在不同地区分配是否均衡,以及当前数据收集与储存方式有什么环境代价。

视频文字稿一:四个层次怎样相互连接

为了便于思考,可以把影响分成个人、人际、社会结构和环境四类。一个影响可能横跨多个类别,因此这不是绝对边界。

个人层面涉及大脑、身体和心理状态。某些研究探索 AI 对诊断或心理支持的帮助,同时也要考虑依赖、过度依赖和思考方式变化。具体益处取决于系统与验证条件。

人际层面涉及与他人的互动、角色和社区。社交平台的推荐算法可以让地理上相隔很远、兴趣相近的人形成社群;同样的机制也可能与隔离、心理困难等问题相互作用。

社会结构层面主要包括地缘政治与劳动。军事无人机、情报、深度伪造与定向宣传,都是原讲解列举的用途。一些研究讨论它们可能影响政治过程;生产率、利润和经济增长的预测,则与劳动市场变化引发的担忧同时存在。

环境层面关注水、电力与排放,以及生产、运输、运行和处置设备的直接代价。也有间接影响:例如改善建筑维护或农业生产效率,可能减少资源浪费;但是否净受益,要连同采用系统本身的代价一起比较。

因此,每个层次都可能有正负影响,应结合具体案例观察困境怎样产生。

视频文字稿二:从一次请求到环境代价

生成式 AI 的环境代价,常常离使用者的直接感受很远。坐在电脑前输入一句话或生成一张图片时,人不容易看到模型训练和基础设施投入;也可能认为“训练已经完成”,于是忽略持续使用的代价。

原讲解引用比较不同任务的研究,从专门的分类系统到生成模型与图像生成,说明任务之间存在显著差异。图表使用对数坐标,因此横跨多个数量级的差别不应按普通直线刻度理解。

原讲解读取的示例为:每 1,000 次文字分类请求约对应 0.3 克二氧化碳,文字生成约 10 克;某个高消耗图像模型的两次请求,能耗大致相当于给手机充电一次。

译注:这些数字是原讲解对特定研究和图表的说明,不是所有当前服务的统一系数。不同研究可能报告能量或碳排放,二者需通过电力碳强度等条件转换;平均值、最高值、任务长度和硬件也不能混用。“手机充电”只是有条件的比较,不适用于任意两次图像生成。

每天的请求量很大,单次不明显的资源消耗就会累计。直接影响包括生产、运输、运行与处置;间接影响则可能正面,也可能负面。

农业自动灌溉是正面的例子:如果根据实际情况供水,可能比每天固定浇水数小时减少浪费,也可以与已经节水的滴灌、定时方案继续比较。

负面间接影响包括消费增加和过度使用。如果为了给另一个 AI 想提示,又增加一层调用,就应问它带来了什么额外收益。食谱应用若减少食物浪费,可能产生收益;若没有,则不能只因使用了 AI 就宣称环保。娱乐用途也应结合实际需求和资源衡量,而不是把所有用途都按同一个结论判断。

减少环境负担的一条路线是数据管理:优化并限制不必要的收集与储存,不继续保留已经不需要的数据。原讲解提到某些企业可能有高比例“暗数据”,并举出最高 80% 的说法,但保存材料未提供可核对统计,不能推广到全部企业。

“暗数据”也不只等于使用一次的数据,更通常指已经收集或保存、但未被有效使用或分析的资料。判断删除与保留,还应考虑实际业务和法定要求。

原讲解继续提到聚合式储存或资源共享的设想,并主张审慎评估合成数据的生成成本。合成数据可以在适当场景解决缺样本等问题,但生成本身也消耗资源,不能默认越多越好。

开放、共享且许可适当的数据集,有可能减少多家公司对相同资料的重复抓取、存储与处理。这里仍存在知识产权、商业与治理难题。原讲解倡议合作,甚至可能需要政策协调;这不等于公开可见的数据可以不经授权任意取用。

最后要明智地选择模型。如果专门系统已经能满足任务,不必默认采用更大的通用模型。即使需要生成能力,也可以比较架构、参数规模和输出长度。用适合任务的较小实现、避免无必要的长输出,是值得验证的优化方向;最终仍需检查是否达到同样质量要求。

下一步练习

用AI 伦理影响研究练习选择一个实际案例,说明困境、原因、证据与可行改善,而不是只列出“有好处也有坏处”。

关联阅读

衡量伤害时可回看四项伦理原则;想研究一个具体案例,可继续做伦理影响研究练习。

参考与延伸阅读

以下是编辑补充与研究查询入口;原资料中缺少具体链接的阅读没有被标成已补全的原参考。

回到AI 基础 1:概念与工具查看完整阅读顺序,或搜索概念与段落。