負責任 AI：生成式工具的收益、風險與取捨

閱讀目標與導言

本頁是中文譯文。我們先認識生成式 AI 已經怎樣進入日常生活與工作，再討論它帶來的便利、代價和取捨。重點不是先認定技術好或壞，而是理解：同一種能力為什麼可能同時幫助人，也給人帶來風險。

人工智慧可以理解為電腦科學中的一個領域，目標是開發能夠完成通常需要人類智慧才能完成的任務的機器與系統。這裡用三個特點劃定討論範圍：系統能夠在有限人工指導下自主行動；利用資料與演算法產生產品、預測或其他輸出；輸出表現接近、模仿，有時在特定任務上超過人的能力。

這個定義並不完美，但有助於區分物件。普通計算器或電子表格中的固定公式，通常不屬於這裡討論的 AI；流媒體或購物平臺中根據行為提供內容的推薦系統，則是典型例子。更完整的技術關係可以回看人工智慧與機器學習。

生成式 AI 是人工智慧的一部分，利用資料和提示輸入創作文字、影象等內容。許多生成式系統採用 Transformer，但並非全部如此。原講解用“識別一隻貓”說明整合資訊的重要性：人看到貓時，並不是依次猜“魚？大象？貓？”，而會結合外形、聲音、氣味、腿的數量、顏色等特徵形成判斷。

譯註：這個類比用於建立“結合上下文與多個線索”的直覺，不能據此斷定 Transformer 按照人腦的方式思考。自注意力是一種計算序列元素關係的機制；資料量、引數量和連線數量也不能混為一談。

原資料以“約三分之二的加拿大人曾嘗試生成式 AI”“接近三分之一的加拿大中小企業訂閱 ChatGPT”說明普及程度。這裡保留這些歷史陳述，但提取材料沒有保留下對應調查的可核對連結、樣本與日期，不能把它們視為當前統計。接下來更值得觀察的是具體使用方式及其影響。

一、生成式 AI 已經用在哪裡

寫作、藝術設計、音樂、影片、程式設計，以及日常計劃和陪伴，都是原講解列出的應用。你可能用過聊天工具，也可能用過影象生成器；不同產品往往把相近的模型能力包裝成不同的介面。

先選一個你感興趣或已經在用的應用，親自試一次。完成後記錄：

• 你選擇了哪個應用？
• 你用它做成了什麼？
• 花了多長時間？
• 在過程中學到了什麼？

這個活動讓後面的討論有一個具體參照。生成式 AI 可以在幾分鐘內生成圖片、文章、計劃，甚至分析；但速度快，並不代表結果完整、正確或適合直接使用。

二、便利與風險為什麼往往成對出現

這些影響不是彼此獨立的清單。例如，快速完成一份初稿確實節省時間，但也要計算檢查、修正和維護的工作；聊天工具總能回應，可能降低表達困難，也可能使人逐漸避開真實人際關係中的協商和挫折。

三、從案例繼續思考

原資料提供了三種閱讀方向。

第一種是工作影響調查報道：一項小規模勞動者調查發現，受訪的生成式 AI 使用者中，接近一半擔心未來十年技術可能取代自己的工作。閱讀時要區分“受訪者擔憂什麼”與“未來一定會發生什麼”。擔憂調查不能直接證明崗位替代的規模。

第二種是模型訓練與部署的環境影響研究：大型模型訓練與部署需要計算資源，廣泛使用也會增加資源需求。判斷影響時，應同時考慮訓練、推斷及支撐裝置與基礎設施，而不是隻看一次對話是否方便。

第三種是情感陪伴風險的新聞報道：原資料討論了一名青少年與聊天機器人形成強烈依戀後死亡的報道。這個案例提醒我們重視未成年人保護、產品設計和真實支援網路；單個報道本身不足以證明全部因果關係。

請選擇至少一個方向閱讀，寫下自己的反思：什麼讓你意外？為什麼？它可能怎樣影響個人、家庭、社群或更廣泛的社會？這些問題也是下一篇AI 倫理四項原則的起點。

影片文字稿一：生成式 AI 無處不在

我們已經簡單認識了生成式 AI，也說明了為什麼要研究它。之所以特別關注生成式 AI，是因為它已經出現在許多應用裡。你可能用過 ChatGPT，也可能用過影象生成器或其他產品。

一個有趣的試驗是：要求模型只根據討論生成式 AI 的學術文章，製作一個詞雲。系統幾分鐘就完成了，但成品並不完美。圖中出現了難以辨認的詞，“民主化”的英文拼寫有誤，“創造力”“增強”等詞還重複出現。這個結果很好地展示了它的兩面：很快，也有用；但必須認識其侷限。

寫作工具是一個例子。原講解提到 ChatGPT、QuillBot 和 Sudowrite。藝術與設計同樣受到很大影響，舉例包括 Canva 的 AI 功能、Adobe Firefly 和早期名為 DALL·E mini 的 Craiyon。可以親自探索這些工具能做什麼，而不只是看宣傳演示。

生成式 AI 也被用於音樂與聲音。原字幕提到了若干音樂和語音產品，但有些名稱的自動轉寫並不清楚，因此這裡不猜測具體品牌。這個領域已有大量產品，模型能力被不斷包裝進新的服務。

影片與動畫方面，原講解列舉 Pika、Kapwing、Runway。程式設計領域則出現了用文字甚至語音描述需求、再生成程式的方式。它讓更多人有機會參與軟體製作，也引出一個問題：當進入門檻降低，專業程式設計工作的需求和職責會怎樣變化？原講解將這作為值得觀察的趨勢，而不是已經確定的就業結論。

有些應用也很出人意料。例如 Snack Prompt 幫助使用者尋找向 AI 提問的提示詞；Character.AI 讓人建立虛構角色並與之交流；還有食譜、健身安排、訓練鼓勵和聊天等工具。

這只是當時已經出現的一小部分應用。產品的數量和種類還可能繼續增長。

譯註：以上產品名稱保留原講解的歷史背景，不代表對當前功能、免費額度或持續運營狀態的承諾。試用前應檢視產品的當前說明。

影片文字稿二：使用中的好處、問題與取捨

詞雲已經展示了一個例子：意圖不錯，卻存在錯誤。另一個例子是快速建立網站問答機器人。演示者把一個組織網站作為輸入，用聊天機器人制作工具，在約兩分鐘內搭起了能夠回答問題的原型，然後詢問“這個組織有哪些工作人員”。

回答抓住了一些大意，列出的人員也並非全錯，但成員數量和地區資訊不完全準確，而且遺漏了關鍵負責人和協調人員。這說明，快速搭出來的原型可能已經有用，卻仍然需要繼續調整和核對，不能因為回答流暢就認為準確率是百分之百。

這裡有一個常見取捨：速度與準確性。兩分鐘建立原型，比從頭編寫整個機器人快得多；但如果將它用於正式服務，檢查遺漏、修正知識和驗證回答就成為工作的一部分。

另一個積極影響是資訊與表達能力更容易獲得。文字轉語音、提示生成圖片、不同風格的文章，都降低了創作門檻。使用第二語言的人，或者以前不擅長寫作的人，可能借助工具寫出更成熟的表達。能力門檻降低，也引出經濟層面的討論：更多人能否因此進入原本要求較高的職業，擴大參與機會？這是可能性，需要實際證據判斷。

心理與社會支援也是被反覆提到的用途。有研究探索，人是否會更願意向 AI，而不是另一個人，表達私人困難；青少年等群體尤其受到關注。原講解強調，這仍在研究中，不能當成已有定論，更不能據此把聊天機器人當作專業照護的替代者。

AI 整理大量資料的能力同樣突出。它可以迅速組織長篇文字和龐大的資訊流，讓人更容易進入一個陌生主題。不過，原講解中“幾分鐘掌握網際網路呈現的全部人類知識”屬於修辭性誇張：系統會受可訪問資料、上下文和可靠性的限制，摘要也會遺漏。

消極影響首先包括工作替代。原講解提到一項未在儲存材料中提供完整出處的調查，稱超過 50% 的勞動者擔心生成式 AI 對職業與發展路徑的影響，並觀察到勞動市場開始變化。這些是當時的觀察與預期，不能用未經核驗的百分比預測所有行業。

資訊可及性也有另一面：誰在訪問什麼資料？資料怎樣被使用？模型訓練使用的個人資訊、書籍和其他作品，會引出隱私、版權及智慧財產權方面的爭議。相關爭議的結論取決於事實、許可和適用規則，不能把“網上能看到”當成可以任意使用。

對人類能力發展的影響也值得討論。技術改變我們的互動、判斷和練習方式。想想“面對空白頁面”的困難：你不知道從哪裡下筆，必須組織思路、擬定提綱，或者先從中間寫起，再調整次序。

原講解舉了一個寫日記的例子：如果不知道寫什麼，就先寫“我不知道寫什麼”。這種克服困難的過程，是練習表達和麵對挫折的一種方式。AI 直接提供初稿後，人可能減少這種練習。但另一方面，空白頁也可能成為某些人始終無法跨越的門檻；藉助初稿，他們反而開始了寫作。因此，變化不必然全部有害，重點是判斷哪些能力值得保留、怎樣讓工具支援練習。

心理支援的反面則是心理與社會依賴。一個總能回應、總表現得同情和支援的虛擬夥伴，可能非常有吸引力。但真實的人際關係通常需要面對分歧、邊界和相互調整。如果所謂“完美關係”使人逐漸迴避現實交往，後果可能嚴重。原講解把它作為需要警惕和繼續研究的風險，沒有斷言所有使用者都會如此。

最後，整理資訊的能力也可以被用於製造海量誤導資訊。偽造或誤導性的圖片、文字，可能影響公共討論，甚至產生政治和社會後果。

因此，對生成式 AI 的使用需要經過衡量：既看到生產率、表達與獲取資訊方面的收益，也持續討論工作、能力發展、關係、資訊真實性和社會變化所帶來的問題。

關聯閱讀

繼續讀AI 倫理四項原則，把這裡的收益與傷害轉成比例、隱私、公平與透明的具體檢查。

參考與延伸閱讀

以下為編輯補充，幫助查詢概念與管理方法，不代表原資料中的歷史調查數字已獲驗證。

• NIST 生成式 AI 風險管理資料：英語，查詢生成式系統的可靠性、資訊完整性及風險管理方法。
• UNESCO 人工智慧倫理建議書說明：英語，瞭解以人權和社會影響為中心的倫理原則。
• Google 機器學習入門：中文，複習機器學習與傳統規則處理的差別。