AI 基礎 1:概念與工具 / 中文譯文

生成式 AI 風險:個人、社會與環境責任

從個人、人際、社會結構與環境四個層次理解生成式 AI 風險,保留影響案例和完整影片講解,並說明歷史統計與排放外推的侷限。

風險與責任2 份配套文字稿開始閱讀 ↓
正在準備中文語音…
音色與朗讀設定

音色由瀏覽器和裝置提供,可試聽選擇。AI、API 等常見英文縮寫按字母朗讀,字母之間稍作停頓;裝置有英語音色時自動使用。暫停後從當前句繼續;進度只儲存在此瀏覽器。圖解會讀出文字說明,表格按行朗讀。切換應用或鎖屏後,部分裝置會暫停。

也可以選中正文,直接追問那一段。

圍繞當前文章

把不理解的地方問清楚。

普通搜尋

回答附有原文章節依據,可繼續追問,也可以進入完整講解。

關於回答、隱私和使用額度

回答由 AI 根據本站已釋出資料整理,可能有誤,請結合原文核對。問題、選段與最近幾輪對話會傳送給 Cloudflare 的模型服務處理,請勿提交私人或保密資料。本站資料庫不儲存問題與對話正文;清空或重新整理頁面會結束本頁對話。

問答使用有限額度:同一訪問網路每天最多 10 次生成,全站每天最多 100 次;也可能因服務額度或繁忙暫時不可用。屆時仍可查閱原文和普通搜尋。額度按 UTC 日期重置。為限制濫用,臨時儲存按日加鹽的訪問網路摘要與計數,保留約兩天並定期清理。

閱讀目標與導言

本頁為中文譯文。我們從不同層次理解 AI 挑戰與倫理困境,並學習怎樣閱讀影響研究。分類是為了幫助思考,實際影響往往相互重疊:個人行為的變化可能進一步影響人際關係、勞動市場與環境。

一、個人影響

AI 可能影響工作、購物、身體與心理狀態,以及知識、技能和思考方式。推薦演算法怎樣安排我們看到的內容,是一個值得研究的入口:它可能讓資訊更容易獲得,也可能不斷強化既有偏好。

原資料提出,AI 也可能用於心理、醫學、視覺治療及人的發展支援,並邀請閱讀關於心理支援工具、特定醫療診斷任務表現的研究。閱讀這些材料時,要區分具體實驗任務、測試人群、比較基線與真實使用條件。

譯註:原資料將“人的大腦已經因 AI 改變”作寬泛陳述,不能據此推斷每種使用都會損害或改善認知。“在某項測試優於人”也不代表可以獨立承擔臨床工作。這裡討論的是影響研究與評價,不是診療建議。醫療系統的安全性、有效性與責任仍須分別驗證。

二、人際與社群影響

生成式大模型出現以前,就已經有面向陪伴與關係的機器人和聊天產品。原資料舉出面向兒童語言和學習支援的機器人,以及 2017 年推出、以成人陪伴為目標的 Replika。

生成式能力使輔導、心理支援等原本主要由人提供的互動出現更多應用。長期依賴這些互動,會怎樣影響與真實人的關係,仍需持續研究。系統越來越像人,並不自動意味著關係更有益。

原資料還提供一個特殊觀察角度:當陪伴產品更新,使用者感覺失去熟悉的 AI“朋友”,可能出現怎樣的反應?這個問題有助於理解,人的依戀也會受產品規則、商業決策和系統變化影響。

三、社會結構與勞動市場影響

AI 也進入情報、軍事、政治傳播等領域,例如深度偽造和定向政治資訊。對許多人而言,更直接的影響來自經濟和工作變化。

生產率與利潤可能提高,但業務流程改變也會影響工作任務、技能需求和勞動者處境。因此,不能只看組織效率,還要問:哪些任務減少,哪些任務增加,誰得到新機會,誰承受調整成本?

原閱讀活動提供兩個方向:一是透過零工平臺的職位釋出研究生成式 AI 出現後需求怎樣變化;二是閱讀一份研究的指定章節,瞭解企業與流程的潛在影響。儲存文字沒有保留可精確確認的全文連結,不能用另一篇近似研究冒充原閱讀。

四、環境影響

更大模型、較長輸入與輸出,以及為訓練製作合成資料,都可能增加資源需求。除了電力,還要考慮資料中心冷卻、用水、裝置製造和處置。

原資料用 2025 年 2 月“每週約 4 億使用者”的歷史報道,嘗試按較早“100 萬使用者、每年 8.4 噸排放”的估計放大,得到 33,600 噸及相當於約 2,240 名加拿大人年排放的說法。

譯註:這段外推不能作為可靠排放估計。僅按給出的數做乘法,8.4 × 400 應為 3,360,而不是 33,600;更根本的是,周活躍使用者不能直接代表全年請求量,不同年份的模型、請求長度、硬體、電力與核算範圍也不同。原始估計的出處和邊界未完整保留,因此不繼續使用該結果推算人均等值。應以實際工作負載和清楚的生命週期邊界衡量。

文字生成也不是所有任務中資源消耗最高的一類。後面的影片討論不同任務之間的差異,並提醒我們觀察直接與間接影響。

原閱讀活動還邀請比較兩類材料:AI 環境負擔在不同地區分配是否均衡,以及當前資料收集與儲存方式有什麼環境代價。

影片文字稿一:四個層次怎樣相互連線

為了便於思考,可以把影響分成個人、人際、社會結構和環境四類。一個影響可能橫跨多個類別,因此這不是絕對邊界。

個人層面涉及大腦、身體和心理狀態。某些研究探索 AI 對診斷或心理支援的幫助,同時也要考慮依賴、過度依賴和思考方式變化。具體益處取決於系統與驗證條件。

人際層面涉及與他人的互動、角色和社群。社交平臺的推薦演算法可以讓地理上相隔很遠、興趣相近的人形成社群;同樣的機制也可能與隔離、心理困難等問題相互作用。

社會結構層面主要包括地緣政治與勞動。軍事無人機、情報、深度偽造與定向宣傳,都是原講解列舉的用途。一些研究討論它們可能影響政治過程;生產率、利潤和經濟增長的預測,則與勞動市場變化引發的擔憂同時存在。

環境層面關注水、電力與排放,以及生產、運輸、執行和處置裝置的直接代價。也有間接影響:例如改善建築維護或農業生產效率,可能減少資源浪費;但是否淨受益,要連同採用系統本身的代價一起比較。

因此,每個層次都可能有正負影響,應結合具體案例觀察困境怎樣產生。

影片文字稿二:從一次請求到環境代價

生成式 AI 的環境代價,常常離使用者的直接感受很遠。坐在電腦前輸入一句話或生成一張圖片時,人不容易看到模型訓練和基礎設施投入;也可能認為“訓練已經完成”,於是忽略持續使用的代價。

原講解引用比較不同任務的研究,從專門的分類系統到生成模型與影象生成,說明任務之間存在顯著差異。圖表使用對數座標,因此橫跨多個數量級的差別不應按普通直線刻度理解。

原講解讀取的示例為:每 1,000 次文字分類請求約對應 0.3 克二氧化碳,文字生成約 10 克;某個高消耗影象模型的兩次請求,能耗大致相當於給手機充電一次。

譯註:這些數字是原講解對特定研究和圖表的說明,不是所有當前服務的統一系數。不同研究可能報告能量或碳排放,二者需透過電力碳強度等條件轉換;平均值、最高值、任務長度和硬體也不能混用。“手機充電”只是有條件的比較,不適用於任意兩次影象生成。

每天的請求量很大,單次不明顯的資源消耗就會累計。直接影響包括生產、運輸、執行與處置;間接影響則可能正面,也可能負面。

農業自動灌溉是正面的例子:如果根據實際情況供水,可能比每天固定澆水數小時減少浪費,也可以與已經節水的滴灌、定時方案繼續比較。

負面間接影響包括消費增加和過度使用。如果為了給另一個 AI 想提示,又增加一層呼叫,就應問它帶來了什麼額外收益。食譜應用若減少食物浪費,可能產生收益;若沒有,則不能只因使用了 AI 就宣稱環保。娛樂用途也應結合實際需求和資源衡量,而不是把所有用途都按同一個結論判斷。

減少環境負擔的一條路線是資料管理:最佳化並限制不必要的收集與儲存,不繼續保留已經不需要的資料。原講解提到某些企業可能有高比例“暗資料”,並舉出最高 80% 的說法,但儲存材料未提供可核對統計,不能推廣到全部企業。

“暗資料”也不只等於使用一次的資料,更通常指已經收集或儲存、但未被有效使用或分析的資料。判斷刪除與保留,還應考慮實際業務和法定要求。

原講解繼續提到聚合式儲存或資源共享的設想,並主張審慎評估合成資料的生成成本。合成資料可以在適當場景解決缺樣本等問題,但生成本身也消耗資源,不能預設越多越好。

開放、共享且許可適當的資料集,有可能減少多家公司對相同資料的重複抓取、儲存與處理。這裡仍存在智慧財產權、商業與治理難題。原講解倡議合作,甚至可能需要政策協調;這不等於公開可見的資料可以不經授權任意取用。

最後要明智地選擇模型。如果專門系統已經能滿足任務,不必預設採用更大的通用模型。即使需要生成能力,也可以比較架構、引數規模和輸出長度。用適合任務的較小實現、避免無必要的長輸出,是值得驗證的最佳化方向;最終仍需檢查是否達到同樣質量要求。

下一步練習

用AI 倫理影響研究練習選擇一個實際案例,說明困境、原因、證據與可行改善,而不是隻列出“有好處也有壞處”。

關聯閱讀

衡量傷害時可回看四項倫理原則;想研究一個具體案例,可繼續做倫理影響研究練習。

參考與延伸閱讀

以下是編輯補充與研究查詢入口;原資料中缺少具體連結的閱讀沒有被標成已補全的原參考。

回到AI 基礎 1:概念與工具檢視完整閱讀順序,或搜尋概念與段落。