閱讀目標與導言
本頁為中文譯文。我們將比較智慧與能動性,認識關於人如何行動的不同觀點,形成對 AI 能動性的判斷,並把責任放到人、制度與技術共同組成的系統中考慮。
智慧常涉及知識、學習、分析、理解概念及其關係的能力;能動性更關注採取行動:能否設定目標、考慮方案、規劃並執行,以及在不確定環境中產生影響。一個系統能行動,不自動意味著它有人一樣的理解、意識或道德責任。
一、人類能動性的思想脈絡
人的能動性指獨立行動、選擇和塑造生活的能力,而不是完全由生物因素、社會結構或命運決定。它與自主、責任和自由相關,也承認人是改變世界的參與者。
古典討論把道德行動者與辨別是非、理性思考和行動目的連線起來;近代討論則進一步強調自主:依據自己能夠理性認可的原則行動,而不是隻順從慾望或本能。
現代觀點還考慮權力、制度與文化規範怎樣影響選擇。結構不是人之外完全固定的背景,人的行動也會塑造結構;結構又反過來影響行動。因此,能動性既是個人能力,也是自由、理性與社會條件的互動。
二、為什麼 AI 讓這個問題變得複雜
生成式系統在回應、決策和創作中的能力提升後,商業語境越來越常稱其為 Agent。不同材料對“能動性”有不同定義,有的強調主動發起,有的強調在目標下持續行動。
對“智慧”“意識”也沒有完全一致的用法。原資料對照一種願意把 AI 稱為智慧、但區分意識的觀點,以及一種從社會與政治角度質疑“人工”與“智慧”用詞的觀點。閱讀時要先弄清概念,不能因用詞不同就認定事實判斷完全相反。
原文引用的另一種觀點指出:人一直把認知任務交給工具。AI 可以擴充套件認知能力,但它更像人的互動與功能,也挑戰以人作為唯一中心的行動觀。理解其影響,需要研究行動如何分配在人、工具與環境之間。
技術不僅補充既有活動,也可能改變社會關係與我們理解現實的方式。因此,研究不應只問“AI 是不是像人”,還應問它怎樣重新組織人的行動。
原閱讀活動指定《AI as Agency without Intelligence》一文,討論人工能動性及其多種實現方式。本頁翻譯導讀與已有文字稿,不把文獻簡介當作論文全文。
可選反思:自己尋找一個 AI 倫理困境,區分其中哪些目標、選擇和後果來自人,哪些由技術系統產生,二者怎樣相互作用。
影片文字稿一:怎樣區分智慧與能動性
智慧涉及知道什麼、形成了哪些概念,以及怎樣學習、分析並理解關係。能動性則涉及能做什麼,怎樣用知識追求目標,怎樣與他人形成群體並在環境中行動。
先認識幾種關於人的智慧的研究方向,有助於看清把哪些屬性稱為“人工智慧”,又把哪些功能稱為“機器的行動”。下面是理論視角的比較,不是某一種理論已完整解釋全部智慧。
心理測量:結構與能力差異
心理測量關注怎樣衡量智慧,IQ 測試是其中一種重要工具。這一研究傳統假設存在影響多種智慧活動的一般能力。隨著理論發展,又進一步區分學習、視覺知覺等較寬能力,以及演奏長笛等領域內較專門的能力。這樣,測量就不只給出一個總分,也嘗試描述不同層次的能力結構。
原講解提到一般因素及分層能力研究,並建議進一步閱讀 Charles E. Spearman 和 John B. Carroll 的研究,以及 1993 年出版的《Human Cognitive Abilities》。同時也提醒文化等因素對測量提出挑戰:一個測試的結果怎樣受到語言、經驗與環境影響,需要單獨討論。原講解推薦 Patricia M. Greenfield 的相關研究,作為認識文化因素如何挑戰心理測量觀點的入口。
認知心理學:過程怎樣發生
這一方向關注心智怎樣形成、提取並連線表徵,也研究記憶、知覺和學習速度等過程。認知神經科學還從生理層面觀察這些活動。
早期一些解釋把智慧與處理速度連線,並使用類比等任務,例如“鳥與天空的關係,對應某物與樹的關係”。但把過程想成完全順序執行可能過於簡單,真實活動也可能並行、相互影響。
研究仍在繼續,目標是理解各個過程怎樣共同支援智慧。計算機模型也是一種研究手段。若想深入,可以從 Allen Newell 與 Herbert A. Simon 的研究開始,瞭解研究者如何用計算方法模擬人的問題解決。建立模型能夠幫助檢驗關於過程的假設,但不等於已經證明計算機與人的心智相同。
生物視角與具身認知
生物研究觀察智慧的神經基礎、腦區及其聯絡。某些討論被簡化成“左腦型”“右腦型”等神經迷思,不能據此給人劃分固定型別。我們通常同時使用兩側大腦;某些人在特定醫療條件下經歷大範圍切除後仍能生存,也不能被簡化成“某一半完全不重要”。對大腦的理解持續變化,有些研究越來越強調整合模型,而非把每項複雜能力固定到一個孤立區域。腦功能的分工與整體協作需要一起考慮。
具身認知進一步關注身體如何參與認知。傳統直覺常把大腦看成單向指揮中心;另一種研究視角則強調身體、行動、感覺與環境之間的相互作用。若想深入具身認知,可閱讀 Eleanor Rosch 的研究。原講解也推薦 George Lakoff 與 Mark Johnson 在 1980 年出版的《Metaphors We Live By》,瞭解隱喻與經驗怎樣參與思考。
文化與情境
情境觀點關注環境和文化如何與心智過程互動。不同活動中被看作“聰明”的表現,可能與經驗、任務和社會條件有關。
原講解把多元智慧等討論放在這個背景中,同時提醒不要把它變成“每個人只能按一種學習風格學習”的固定標籤。人可以有偏好,但偏好不等於只能透過某一種媒體學習。
原講解還指出,這個傳統一方面認識到文化可能參與定義智慧,另一方面也存在繼續尋找普遍智慧解釋的嘗試。這兩種傾向之間值得比較。它推薦 Robert Sternberg 在 1985 年出版的《Beyond IQ》,從個體內部、外部世界,以及與世界互動的經驗三個相關方面討論智慧。重點是看見相互依賴,而不是把智慧簡化成一個脫離情境的數字。
影片文字稿二:四種能動性及群體行動
原講解依據所讀論文,把能動性分為幾個層次。這裡的“能動性”採取比日常“自主意志”更寬的用法,因此要逐項看定義。
自然能動性
非生命系統與環境相互作用,也可以產生重大影響。例如,河流流經地貌,長期形成峽谷。它遵循物理規律,沒有已知的意圖或目的,卻仍改變世界。
生物能動性
生命體與環境、其他生命體互動,圍繞食物、棲息和繁殖等需求行動。與河流不同,它們表現出與生存相關的趨向和調節。
動物也可能形成共同活動,例如螞蟻建巢、蜜蜂築巢。這可以作為動物群體能動性的例子:多個個體共同產生有組織的結果。
人工物能動性
非生命系統由生命體制造,用於完成目的。AI 是這裡討論的重要例子:目的由人設定,系統在相應結構和環境中執行。
原文把這種目的與人的設計連線,不能由此斷定系統擁有人的意圖,也不能認為所有動物工具使用問題已經被解決。重點是區分人工物的行動效果與人的目的來源。
人類能動性
人仍有食物、住所、陪伴等生物需求,同時具備複雜的認知與抽象思考。原講解特別強調抽象能力:人可以考慮較遠未來、多代影響、因果鏈,以及複利等不直接呈現在眼前的關係。
人的目的因而不侷限於即時環境,還能被想象、規範與長期計劃組織。
人類社會能動性
群體在制度中共同採取行動,產生文化與結構。這些結構由人的行動建立,又會反過來影響人的選擇。理解這種相互關係,有助於避免把 AI 造成的所有後果歸結為單個使用者或單個模型。
把問題帶回具體系統
請先說明自己採用哪種能動性定義,再判斷 AI 有哪些能力、哪些沒有。檢查目標由誰設定,工具由誰提供,許可權由誰決定,錯誤由誰能夠糾正。
與業務 Agent 的規劃、記憶與工具一起閱讀,可以區分工程中的目標執行與哲學中的自主和責任。
關聯閱讀
將概念用於具體系統時,可比較業務 Agent的工程能力,並用可信 AI檢查人的監督和問責。
參考與延伸閱讀
- AI as Agency without Intelligence:英語,原閱讀所討論的論文查詢入口。正式發表版本可查出版方頁面。目前可核對書目資訊和公開預覽,未取得可公開全文翻譯的版本,本頁仍只提供原導讀與配套文字稿。
- UNESCO 人工智慧倫理建議書:英語,編輯補充,用於把技術能力與人的權利和責任聯絡起來。