负责任 AI：生成式工具的收益、风险与取舍

阅读目标与导言

本页是中文译文。我们先认识生成式 AI 已经怎样进入日常生活与工作，再讨论它带来的便利、代价和取舍。重点不是先认定技术好或坏，而是理解：同一种能力为什么可能同时帮助人，也给人带来风险。

人工智能可以理解为计算机科学中的一个领域，目标是开发能够完成通常需要人类智能才能完成的任务的机器与系统。这里用三个特点划定讨论范围：系统能够在有限人工指导下自主行动；利用数据与算法产生产品、预测或其他输出；输出表现接近、模仿，有时在特定任务上超过人的能力。

这个定义并不完美，但有助于区分对象。普通计算器或电子表格中的固定公式，通常不属于这里讨论的 AI；流媒体或购物平台中根据行为提供内容的推荐系统，则是典型例子。更完整的技术关系可以回看人工智能与机器学习。

生成式 AI 是人工智能的一部分，利用数据和提示输入创作文字、图像等内容。许多生成式系统采用 Transformer，但并非全部如此。原讲解用“识别一只猫”说明整合信息的重要性：人看到猫时，并不是依次猜“鱼？大象？猫？”，而会结合外形、声音、气味、腿的数量、颜色等特征形成判断。

译注：这个类比用于建立“结合上下文与多个线索”的直觉，不能据此断定 Transformer 按照人脑的方式思考。自注意力是一种计算序列元素关系的机制；数据量、参数量和连接数量也不能混为一谈。

原资料以“约三分之二的加拿大人曾尝试生成式 AI”“接近三分之一的加拿大中小企业订阅 ChatGPT”说明普及程度。这里保留这些历史陈述，但提取材料没有保留下对应调查的可核对链接、样本与日期，不能把它们视为当前统计。接下来更值得观察的是具体使用方式及其影响。

一、生成式 AI 已经用在哪里

写作、艺术设计、音乐、视频、编程，以及日常计划和陪伴，都是原讲解列出的应用。你可能用过聊天工具，也可能用过图像生成器；不同产品往往把相近的模型能力包装成不同的界面。

先选一个你感兴趣或已经在用的应用，亲自试一次。完成后记录：

• 你选择了哪个应用？
• 你用它做成了什么？
• 花了多长时间？
• 在过程中学到了什么？

这个活动让后面的讨论有一个具体参照。生成式 AI 可以在几分钟内生成图片、文章、计划，甚至分析；但速度快，并不代表结果完整、正确或适合直接使用。

二、便利与风险为什么往往成对出现

这些影响不是彼此独立的清单。例如，快速完成一份初稿确实节省时间，但也要计算检查、修正和维护的工作；聊天工具总能回应，可能降低表达困难，也可能使人逐渐避开真实人际关系中的协商和挫折。

三、从案例继续思考

原资料提供了三种阅读方向。

第一种是工作影响调查报道：一项小规模劳动者调查发现，受访的生成式 AI 使用者中，接近一半担心未来十年技术可能取代自己的工作。阅读时要区分“受访者担忧什么”与“未来一定会发生什么”。担忧调查不能直接证明岗位替代的规模。

第二种是模型训练与部署的环境影响研究：大型模型训练与部署需要计算资源，广泛使用也会增加资源需求。判断影响时，应同时考虑训练、推断及支撑设备与基础设施，而不是只看一次对话是否方便。

第三种是情感陪伴风险的新闻报道：原资料讨论了一名青少年与聊天机器人形成强烈依恋后死亡的报道。这个案例提醒我们重视未成年人保护、产品设计和真实支持网络；单个报道本身不足以证明全部因果关系。

请选择至少一个方向阅读，写下自己的反思：什么让你意外？为什么？它可能怎样影响个人、家庭、社区或更广泛的社会？这些问题也是下一篇AI 伦理四项原则的起点。

视频文字稿一：生成式 AI 无处不在

我们已经简单认识了生成式 AI，也说明了为什么要研究它。之所以特别关注生成式 AI，是因为它已经出现在许多应用里。你可能用过 ChatGPT，也可能用过图像生成器或其他产品。

一个有趣的试验是：要求模型只根据讨论生成式 AI 的学术文章，制作一个词云。系统几分钟就完成了，但成品并不完美。图中出现了难以辨认的词，“民主化”的英文拼写有误，“创造力”“增强”等词还重复出现。这个结果很好地展示了它的两面：很快，也有用；但必须认识其局限。

写作工具是一个例子。原讲解提到 ChatGPT、QuillBot 和 Sudowrite。艺术与设计同样受到很大影响，举例包括 Canva 的 AI 功能、Adobe Firefly 和早期名为 DALL·E mini 的 Craiyon。可以亲自探索这些工具能做什么，而不只是看宣传演示。

生成式 AI 也被用于音乐与声音。原字幕提到了若干音乐和语音产品，但有些名称的自动转写并不清楚，因此这里不猜测具体品牌。这个领域已有大量产品，模型能力被不断包装进新的服务。

视频与动画方面，原讲解列举 Pika、Kapwing、Runway。编程领域则出现了用文字甚至语音描述需求、再生成程序的方式。它让更多人有机会参与软件制作，也引出一个问题：当进入门槛降低，专业编程工作的需求和职责会怎样变化？原讲解将这作为值得观察的趋势，而不是已经确定的就业结论。

有些应用也很出人意料。例如 Snack Prompt 帮助使用者寻找向 AI 提问的提示词；Character.AI 让人创建虚构角色并与之交流；还有食谱、健身安排、训练鼓励和聊天等工具。

这只是当时已经出现的一小部分应用。产品的数量和种类还可能继续增长。

译注：以上产品名称保留原讲解的历史背景，不代表对当前功能、免费额度或持续运营状态的承诺。试用前应查看产品的当前说明。

视频文字稿二：使用中的好处、问题与取舍

词云已经展示了一个例子：意图不错，却存在错误。另一个例子是快速创建网站问答机器人。演示者把一个组织网站作为输入，用聊天机器人制作工具，在约两分钟内搭起了能够回答问题的原型，然后询问“这个组织有哪些工作人员”。

回答抓住了一些大意，列出的人员也并非全错，但成员数量和地区信息不完全准确，而且遗漏了关键负责人和协调人员。这说明，快速搭出来的原型可能已经有用，却仍然需要继续调整和核对，不能因为回答流畅就认为准确率是百分之百。

这里有一个常见取舍：速度与准确性。两分钟建立原型，比从头编写整个机器人快得多；但如果将它用于正式服务，检查遗漏、修正知识和验证回答就成为工作的一部分。

另一个积极影响是信息与表达能力更容易获得。文字转语音、提示生成图片、不同风格的文章，都降低了创作门槛。使用第二语言的人，或者以前不擅长写作的人，可能借助工具写出更成熟的表达。能力门槛降低，也引出经济层面的讨论：更多人能否因此进入原本要求较高的职业，扩大参与机会？这是可能性，需要实际证据判断。

心理与社会支持也是被反复提到的用途。有研究探索，人是否会更愿意向 AI，而不是另一个人，表达私人困难；青少年等群体尤其受到关注。原讲解强调，这仍在研究中，不能当成已有定论，更不能据此把聊天机器人当作专业照护的替代者。

AI 整理大量资料的能力同样突出。它可以迅速组织长篇文字和庞大的信息流，让人更容易进入一个陌生主题。不过，原讲解中“几分钟掌握互联网呈现的全部人类知识”属于修辞性夸张：系统会受可访问资料、上下文和可靠性的限制，摘要也会遗漏。

消极影响首先包括工作替代。原讲解提到一项未在保存材料中提供完整出处的调查，称超过 50% 的劳动者担心生成式 AI 对职业与发展路径的影响，并观察到劳动市场开始变化。这些是当时的观察与预期，不能用未经核验的百分比预测所有行业。

信息可及性也有另一面：谁在访问什么资料？资料怎样被使用？模型训练使用的个人信息、书籍和其他作品，会引出隐私、版权及知识产权方面的争议。相关争议的结论取决于事实、许可和适用规则，不能把“网上能看到”当成可以任意使用。

对人类能力发展的影响也值得讨论。技术改变我们的互动、判断和练习方式。想想“面对空白页面”的困难：你不知道从哪里下笔，必须组织思路、拟定提纲，或者先从中间写起，再调整次序。

原讲解举了一个写日记的例子：如果不知道写什么，就先写“我不知道写什么”。这种克服困难的过程，是练习表达和面对挫折的一种方式。AI 直接提供初稿后，人可能减少这种练习。但另一方面，空白页也可能成为某些人始终无法跨越的门槛；借助初稿，他们反而开始了写作。因此，变化不必然全部有害，重点是判断哪些能力值得保留、怎样让工具支持练习。

心理支持的反面则是心理与社会依赖。一个总能回应、总表现得同情和支持的虚拟伙伴，可能非常有吸引力。但真实的人际关系通常需要面对分歧、边界和相互调整。如果所谓“完美关系”使人逐渐回避现实交往，后果可能严重。原讲解把它作为需要警惕和继续研究的风险，没有断言所有使用者都会如此。

最后，整理信息的能力也可以被用于制造海量误导信息。伪造或误导性的图片、文字，可能影响公共讨论，甚至产生政治和社会后果。

因此，对生成式 AI 的使用需要经过衡量：既看到生产率、表达与获取信息方面的收益，也持续讨论工作、能力发展、关系、信息真实性和社会变化所带来的问题。

关联阅读

继续读AI 伦理四项原则，把这里的收益与伤害转成比例、隐私、公平与透明的具体检查。

参考与延伸阅读

以下为编辑补充，帮助查询概念与管理方法，不代表原资料中的历史调查数字已获验证。

• NIST 生成式 AI 风险管理资料：英语，查询生成式系统的可靠性、信息完整性及风险管理方法。
• UNESCO 人工智能伦理建议书说明：英语，了解以人权和社会影响为中心的伦理原则。
• Google 机器学习入门：中文，复习机器学习与传统规则处理的差别。