阅读目标与导言
本页为中文译文。我们将比较智能与能动性,认识关于人如何行动的不同观点,形成对 AI 能动性的判断,并把责任放到人、制度与技术共同组成的系统中考虑。
智能常涉及知识、学习、分析、理解概念及其关系的能力;能动性更关注采取行动:能否设定目标、考虑方案、规划并执行,以及在不确定环境中产生影响。一个系统能行动,不自动意味着它有人一样的理解、意识或道德责任。
一、人类能动性的思想脉络
人的能动性指独立行动、选择和塑造生活的能力,而不是完全由生物因素、社会结构或命运决定。它与自主、责任和自由相关,也承认人是改变世界的参与者。
古典讨论把道德行动者与辨别是非、理性思考和行动目的连接起来;近代讨论则进一步强调自主:依据自己能够理性认可的原则行动,而不是只顺从欲望或本能。
现代观点还考虑权力、制度与文化规范怎样影响选择。结构不是人之外完全固定的背景,人的行动也会塑造结构;结构又反过来影响行动。因此,能动性既是个人能力,也是自由、理性与社会条件的互动。
二、为什么 AI 让这个问题变得复杂
生成式系统在回应、决策和创作中的能力提升后,商业语境越来越常称其为 Agent。不同材料对“能动性”有不同定义,有的强调主动发起,有的强调在目标下持续行动。
对“智能”“意识”也没有完全一致的用法。原资料对照一种愿意把 AI 称为智能、但区分意识的观点,以及一种从社会与政治角度质疑“人工”与“智能”用词的观点。阅读时要先弄清概念,不能因用词不同就认定事实判断完全相反。
原文引用的另一种观点指出:人一直把认知任务交给工具。AI 可以扩展认知能力,但它更像人的互动与功能,也挑战以人作为唯一中心的行动观。理解其影响,需要研究行动如何分配在人、工具与环境之间。
技术不仅补充既有活动,也可能改变社会关系与我们理解现实的方式。因此,研究不应只问“AI 是不是像人”,还应问它怎样重新组织人的行动。
原阅读活动指定《AI as Agency without Intelligence》一文,讨论人工能动性及其多种实现方式。本页翻译导读与已有文字稿,不把文献简介当作论文全文。
可选反思:自己寻找一个 AI 伦理困境,区分其中哪些目标、选择和后果来自人,哪些由技术系统产生,二者怎样相互作用。
视频文字稿一:怎样区分智能与能动性
智能涉及知道什么、形成了哪些概念,以及怎样学习、分析并理解关系。能动性则涉及能做什么,怎样用知识追求目标,怎样与他人形成群体并在环境中行动。
先认识几种关于人的智能的研究方向,有助于看清把哪些属性称为“人工智能”,又把哪些功能称为“机器的行动”。下面是理论视角的比较,不是某一种理论已完整解释全部智能。
心理测量:结构与能力差异
心理测量关注怎样衡量智能,IQ 测试是其中一种重要工具。这一研究传统假设存在影响多种智能活动的一般能力。随着理论发展,又进一步区分学习、视觉知觉等较宽能力,以及演奏长笛等领域内较专门的能力。这样,测量就不只给出一个总分,也尝试描述不同层次的能力结构。
原讲解提到一般因素及分层能力研究,并建议进一步阅读 Charles E. Spearman 和 John B. Carroll 的研究,以及 1993 年出版的《Human Cognitive Abilities》。同时也提醒文化等因素对测量提出挑战:一个测试的结果怎样受到语言、经验与环境影响,需要单独讨论。原讲解推荐 Patricia M. Greenfield 的相关研究,作为认识文化因素如何挑战心理测量观点的入口。
认知心理学:过程怎样发生
这一方向关注心智怎样形成、提取并连接表征,也研究记忆、知觉和学习速度等过程。认知神经科学还从生理层面观察这些活动。
早期一些解释把智能与处理速度连接,并使用类比等任务,例如“鸟与天空的关系,对应某物与树的关系”。但把过程想成完全顺序执行可能过于简单,真实活动也可能并行、相互影响。
研究仍在继续,目标是理解各个过程怎样共同支持智能。计算机模型也是一种研究手段。若想深入,可以从 Allen Newell 与 Herbert A. Simon 的研究开始,了解研究者如何用计算方法模拟人的问题解决。建立模型能够帮助检验关于过程的假设,但不等于已经证明计算机与人的心智相同。
生物视角与具身认知
生物研究观察智能的神经基础、脑区及其联系。某些讨论被简化成“左脑型”“右脑型”等神经迷思,不能据此给人划分固定类型。我们通常同时使用两侧大脑;某些人在特定医疗条件下经历大范围切除后仍能生存,也不能被简化成“某一半完全不重要”。对大脑的理解持续变化,有些研究越来越强调整合模型,而非把每项复杂能力固定到一个孤立区域。脑功能的分工与整体协作需要一起考虑。
具身认知进一步关注身体如何参与认知。传统直觉常把大脑看成单向指挥中心;另一种研究视角则强调身体、行动、感觉与环境之间的相互作用。若想深入具身认知,可阅读 Eleanor Rosch 的研究。原讲解也推荐 George Lakoff 与 Mark Johnson 在 1980 年出版的《Metaphors We Live By》,了解隐喻与经验怎样参与思考。
文化与情境
情境观点关注环境和文化如何与心智过程互动。不同活动中被看作“聪明”的表现,可能与经验、任务和社会条件有关。
原讲解把多元智能等讨论放在这个背景中,同时提醒不要把它变成“每个人只能按一种学习风格学习”的固定标签。人可以有偏好,但偏好不等于只能通过某一种媒体学习。
原讲解还指出,这个传统一方面认识到文化可能参与定义智能,另一方面也存在继续寻找普遍智能解释的尝试。这两种倾向之间值得比较。它推荐 Robert Sternberg 在 1985 年出版的《Beyond IQ》,从个体内部、外部世界,以及与世界互动的经验三个相关方面讨论智能。重点是看见相互依赖,而不是把智能简化成一个脱离情境的数字。
视频文字稿二:四种能动性及群体行动
原讲解依据所读论文,把能动性分为几个层次。这里的“能动性”采取比日常“自主意志”更宽的用法,因此要逐项看定义。
自然能动性
非生命系统与环境相互作用,也可以产生重大影响。例如,河流流经地貌,长期形成峡谷。它遵循物理规律,没有已知的意图或目的,却仍改变世界。
生物能动性
生命体与环境、其他生命体互动,围绕食物、栖息和繁殖等需求行动。与河流不同,它们表现出与生存相关的趋向和调节。
动物也可能形成共同活动,例如蚂蚁建巢、蜜蜂筑巢。这可以作为动物群体能动性的例子:多个个体共同产生有组织的结果。
人工物能动性
非生命系统由生命体制造,用于完成目的。AI 是这里讨论的重要例子:目的由人设定,系统在相应结构和环境中执行。
原文把这种目的与人的设计连接,不能由此断定系统拥有人的意图,也不能认为所有动物工具使用问题已经被解决。重点是区分人工物的行动效果与人的目的来源。
人类能动性
人仍有食物、住所、陪伴等生物需求,同时具备复杂的认知与抽象思考。原讲解特别强调抽象能力:人可以考虑较远未来、多代影响、因果链,以及复利等不直接呈现在眼前的关系。
人的目的因而不局限于即时环境,还能被想象、规范与长期计划组织。
人类社会能动性
群体在制度中共同采取行动,产生文化与结构。这些结构由人的行动建立,又会反过来影响人的选择。理解这种相互关系,有助于避免把 AI 造成的所有后果归结为单个使用者或单个模型。
把问题带回具体系统
请先说明自己采用哪种能动性定义,再判断 AI 有哪些能力、哪些没有。检查目标由谁设定,工具由谁提供,权限由谁决定,错误由谁能够纠正。
与业务 Agent 的规划、记忆与工具一起阅读,可以区分工程中的目标执行与哲学中的自主和责任。
关联阅读
将概念用于具体系统时,可比较业务 Agent的工程能力,并用可信 AI检查人的监督和问责。
参考与延伸阅读
- AI as Agency without Intelligence:英语,原阅读所讨论的论文查询入口。正式发表版本可查出版方页面。目前可核对书目信息和公开预览,未取得可公开全文翻译的版本,本页仍只提供原导读与配套文字稿。
- UNESCO 人工智能伦理建议书:英语,编辑补充,用于把技术能力与人的权利和责任联系起来。