閱讀目標與導言
本頁為中文譯文。我們從不同層次理解 AI 挑戰與倫理困境,並學習怎樣閱讀影響研究。分類是為了幫助思考,實際影響往往相互重疊:個人行為的變化可能進一步影響人際關係、勞動市場與環境。
一、個人影響
AI 可能影響工作、購物、身體與心理狀態,以及知識、技能和思考方式。推薦演算法怎樣安排我們看到的內容,是一個值得研究的入口:它可能讓資訊更容易獲得,也可能不斷強化既有偏好。
原資料提出,AI 也可能用於心理、醫學、視覺治療及人的發展支援,並邀請閱讀關於心理支援工具、特定醫療診斷任務表現的研究。閱讀這些材料時,要區分具體實驗任務、測試人群、比較基線與真實使用條件。
譯註:原資料將“人的大腦已經因 AI 改變”作寬泛陳述,不能據此推斷每種使用都會損害或改善認知。“在某項測試優於人”也不代表可以獨立承擔臨床工作。這裡討論的是影響研究與評價,不是診療建議。醫療系統的安全性、有效性與責任仍須分別驗證。
二、人際與社群影響
生成式大模型出現以前,就已經有面向陪伴與關係的機器人和聊天產品。原資料舉出面向兒童語言和學習支援的機器人,以及 2017 年推出、以成人陪伴為目標的 Replika。
生成式能力使輔導、心理支援等原本主要由人提供的互動出現更多應用。長期依賴這些互動,會怎樣影響與真實人的關係,仍需持續研究。系統越來越像人,並不自動意味著關係更有益。
原資料還提供一個特殊觀察角度:當陪伴產品更新,使用者感覺失去熟悉的 AI“朋友”,可能出現怎樣的反應?這個問題有助於理解,人的依戀也會受產品規則、商業決策和系統變化影響。
三、社會結構與勞動市場影響
AI 也進入情報、軍事、政治傳播等領域,例如深度偽造和定向政治資訊。對許多人而言,更直接的影響來自經濟和工作變化。
生產率與利潤可能提高,但業務流程改變也會影響工作任務、技能需求和勞動者處境。因此,不能只看組織效率,還要問:哪些任務減少,哪些任務增加,誰得到新機會,誰承受調整成本?
原閱讀活動提供兩個方向:一是透過零工平臺的職位釋出研究生成式 AI 出現後需求怎樣變化;二是閱讀一份研究的指定章節,瞭解企業與流程的潛在影響。儲存文字沒有保留可精確確認的全文連結,不能用另一篇近似研究冒充原閱讀。
四、環境影響
更大模型、較長輸入與輸出,以及為訓練製作合成資料,都可能增加資源需求。除了電力,還要考慮資料中心冷卻、用水、裝置製造和處置。
原資料用 2025 年 2 月“每週約 4 億使用者”的歷史報道,嘗試按較早“100 萬使用者、每年 8.4 噸排放”的估計放大,得到 33,600 噸及相當於約 2,240 名加拿大人年排放的說法。
譯註:這段外推不能作為可靠排放估計。僅按給出的數做乘法,8.4 × 400 應為 3,360,而不是 33,600;更根本的是,周活躍使用者不能直接代表全年請求量,不同年份的模型、請求長度、硬體、電力與核算範圍也不同。原始估計的出處和邊界未完整保留,因此不繼續使用該結果推算人均等值。應以實際工作負載和清楚的生命週期邊界衡量。
文字生成也不是所有任務中資源消耗最高的一類。後面的影片討論不同任務之間的差異,並提醒我們觀察直接與間接影響。
原閱讀活動還邀請比較兩類材料:AI 環境負擔在不同地區分配是否均衡,以及當前資料收集與儲存方式有什麼環境代價。
影片文字稿一:四個層次怎樣相互連線
為了便於思考,可以把影響分成個人、人際、社會結構和環境四類。一個影響可能橫跨多個類別,因此這不是絕對邊界。
個人層面涉及大腦、身體和心理狀態。某些研究探索 AI 對診斷或心理支援的幫助,同時也要考慮依賴、過度依賴和思考方式變化。具體益處取決於系統與驗證條件。
人際層面涉及與他人的互動、角色和社群。社交平臺的推薦演算法可以讓地理上相隔很遠、興趣相近的人形成社群;同樣的機制也可能與隔離、心理困難等問題相互作用。
社會結構層面主要包括地緣政治與勞動。軍事無人機、情報、深度偽造與定向宣傳,都是原講解列舉的用途。一些研究討論它們可能影響政治過程;生產率、利潤和經濟增長的預測,則與勞動市場變化引發的擔憂同時存在。
環境層面關注水、電力與排放,以及生產、運輸、執行和處置裝置的直接代價。也有間接影響:例如改善建築維護或農業生產效率,可能減少資源浪費;但是否淨受益,要連同採用系統本身的代價一起比較。
因此,每個層次都可能有正負影響,應結合具體案例觀察困境怎樣產生。
影片文字稿二:從一次請求到環境代價
生成式 AI 的環境代價,常常離使用者的直接感受很遠。坐在電腦前輸入一句話或生成一張圖片時,人不容易看到模型訓練和基礎設施投入;也可能認為“訓練已經完成”,於是忽略持續使用的代價。
原講解引用比較不同任務的研究,從專門的分類系統到生成模型與影象生成,說明任務之間存在顯著差異。圖表使用對數座標,因此橫跨多個數量級的差別不應按普通直線刻度理解。
原講解讀取的示例為:每 1,000 次文字分類請求約對應 0.3 克二氧化碳,文字生成約 10 克;某個高消耗影象模型的兩次請求,能耗大致相當於給手機充電一次。
譯註:這些數字是原講解對特定研究和圖表的說明,不是所有當前服務的統一系數。不同研究可能報告能量或碳排放,二者需透過電力碳強度等條件轉換;平均值、最高值、任務長度和硬體也不能混用。“手機充電”只是有條件的比較,不適用於任意兩次影象生成。
每天的請求量很大,單次不明顯的資源消耗就會累計。直接影響包括生產、運輸、執行與處置;間接影響則可能正面,也可能負面。
農業自動灌溉是正面的例子:如果根據實際情況供水,可能比每天固定澆水數小時減少浪費,也可以與已經節水的滴灌、定時方案繼續比較。
負面間接影響包括消費增加和過度使用。如果為了給另一個 AI 想提示,又增加一層呼叫,就應問它帶來了什麼額外收益。食譜應用若減少食物浪費,可能產生收益;若沒有,則不能只因使用了 AI 就宣稱環保。娛樂用途也應結合實際需求和資源衡量,而不是把所有用途都按同一個結論判斷。
減少環境負擔的一條路線是資料管理:最佳化並限制不必要的收集與儲存,不繼續保留已經不需要的資料。原講解提到某些企業可能有高比例“暗資料”,並舉出最高 80% 的說法,但儲存材料未提供可核對統計,不能推廣到全部企業。
“暗資料”也不只等於使用一次的資料,更通常指已經收集或儲存、但未被有效使用或分析的資料。判斷刪除與保留,還應考慮實際業務和法定要求。
原講解繼續提到聚合式儲存或資源共享的設想,並主張審慎評估合成資料的生成成本。合成資料可以在適當場景解決缺樣本等問題,但生成本身也消耗資源,不能預設越多越好。
開放、共享且許可適當的資料集,有可能減少多家公司對相同資料的重複抓取、儲存與處理。這裡仍存在智慧財產權、商業與治理難題。原講解倡議合作,甚至可能需要政策協調;這不等於公開可見的資料可以不經授權任意取用。
最後要明智地選擇模型。如果專門系統已經能滿足任務,不必預設採用更大的通用模型。即使需要生成能力,也可以比較架構、引數規模和輸出長度。用適合任務的較小實現、避免無必要的長輸出,是值得驗證的最佳化方向;最終仍需檢查是否達到同樣質量要求。
下一步練習
用AI 倫理影響研究練習選擇一個實際案例,說明困境、原因、證據與可行改善,而不是隻列出“有好處也有壞處”。
關聯閱讀
衡量傷害時可回看四項倫理原則;想研究一個具體案例,可繼續做倫理影響研究練習。
參考與延伸閱讀
以下是編輯補充與研究查詢入口;原資料中缺少具體連結的閱讀沒有被標成已補全的原參考。
- Power Hungry Processing 研究:英語,查詢不同模型任務推斷階段的能耗比較和實驗邊界。
- IEA:Energy and AI:英語,瞭解資料中心、能源與 AI 的系統性分析,區分整個資料中心行業與 AI 專用負載。
- WHO:大型多模態模型的倫理與治理:英語,瞭解醫療應用所需的驗證、治理與責任,不能用實驗表現替代實際安全評價。