應用例子怎樣幫助理解框架
本文為《可信 AI 倫理指南》2019 年版最後部分的中文譯文，對應印刷頁 32至38，包含機會、關鍵關切、結論及術語表。前面依次是整體框架、四項原則、七項要求和評估清單。
原文舉例說明哪些開發和使用值得鼓勵，以及哪些可能違背其價值、引發特定關切。需要在“應當做什麼”與“能夠做什麼”之間取得平衡，同時認真考慮“不應當做什麼”。案例、預測和數字保留 2019 年的語境，不作為今天的實測成效。
可信 AI 帶來的機會
可信 AI 有望幫助應對人口老齡化、社會不平等擴大、環境汙染等緊迫挑戰。這也反映在聯合國可持續發展目標中。以下討論怎樣鼓勵能夠回應這些問題的歐洲 AI 戰略。
氣候行動與可持續基礎設施
應對氣候變化應是全球政策重點。數字化和可信 AI 有望減少人對環境的影響，更高效地使用能源及自然資源。例如結合大資料，更準確地識別能源需要，使能源設施與消費更有效率。
原文以智慧電網、儲能等專案為例，並提到 BRIDGE 倡議幫助不同專案形成對跨領域問題的共同認識；Encompass 專案也是當時的例子。這些是方向與專案說明，不等於本站驗證了各專案今天的效果。
在公共交通中，智慧交通系統可減少排隊、最佳化路線、幫助視障人士更獨立出行、最佳化節能發動機，從而支援脫碳並減少環境足跡。原文以 Fabulos 的城市交通、PRO4VIP 的視障輔助及 UP-Drive 的車輛漸進自動化與協作為例，說明更安全、包容、可負擔的交通方向。
原版引用當時世衛組織資料稱，全球約每 23 秒就有一人在交通事故中死亡，並認為 AI 或可透過更快反應、較好遵守規則等方式降低死亡。譯註：這一數字是原文的歷史引用；它不是當前統計，也不能據此認定自動駕駛已經實現了相應安全改善。當前交通傷害資料可查詢文末世衛組織入口。
健康與福祉
可信 AI 可使治療更智慧、更有針對性，幫助預防危及生命的疾病，部分應用當時已在使用。醫療專業人員有可能更準確、細緻地分析複雜健康資料，甚至在出現疾病前提供個性化預防。
原文列舉 REVOLVER 對癌症演變與個體治療的研究，MURAB 對更準確活檢和更早診斷的探索；Live INCITE 則要求創新電子健康方案，在圍手術期幫助人按自身情況調整生活方式，改善醫療結果。
面對老齡化，AI 和機器人可輔助照護者、支援老年照護，並實時監測狀態。原文以 CARESSES 研究按老年人的文化與習慣調整機器人言行，以及 ALFRED 虛擬助手幫助保持活躍為例；EMPATTICS 探索如何用包括 AI 在內的資訊通訊技術共同規劃干預、監測身心變化。
MyHealthAvatar 專案提供長期健康狀態的數字表示，以應用和線上平臺構成終身健康夥伴，並探索卒中、糖尿病、心血管病、高血壓風險預測。ENRICHME 面向認知能力逐漸下降，結合環境輔助生活平臺和移動服務機器人進行長期監測與互動，支援獨立和活躍生活。
在更大尺度上，AI 能分析醫療及治療趨勢，幫助更早發現疾病、提高藥物開發效率、改善針對性治療，最終有望挽救生命。原文也提到以統計推斷、模式識別和機器學習處理基因組及影像組資料的 Sophia Genetics。以上都是原版呈現的潛在用途或專案，不構成診療建議，也不等於對其有效性作獨立驗證。
優質教育與數字化轉型
技術、經濟和環境變化要求社會更主動地準備。政府、行業、教育機構與工會有責任幫助公眾進入數字時代，獲得未來工作所需技能。
可信 AI 可更準確預測哪些工作和職業受衝擊、哪些新角色會出現、需要什麼技能，幫助政府、工會與行業規劃技能提升和轉崗培訓，也為擔心失業的人提供新的發展路徑。
AI 也可用於減少教育不平等，提供個性化、可調整的學習方案，讓不同學習能力的人獲得新資格、技能與能力，並有望提高從基礎到高等教育的學習速度與質量。原文舉出 MaTHiSiS 情感感知學習環境、Watson Classroom 和 Century Tech 等當時案例。
AI 引發的關鍵關切
當可信 AI 的某個組成部分被違反時，就可能出現重大關切。以下許多事項已落入必須遵守的法律範圍，但即使證明合規，也可能尚未覆蓋全部倫理問題。對規則與原則是否充分的認識會變化，因此這份非窮盡列表也可能被縮減、擴大或更新。
識別、追蹤與持續監測個人
AI 使公共和私人主體更有效率地識別個人。可大規模使用的例子包括人臉識別，以及人在非自願情況下透過生物特徵被識別的技術，例如測謊、由微表情推斷人格、自動聲音識別。譯註：列出某種技術，不代表原文或本站證明其關於人格、情緒等推斷可靠。
有時識別具有合乎倫理的目的，如發現欺詐、洗錢或恐怖融資。但自動識別也有強烈的法律與倫理關切，可能對心理和社會文化產生非預期影響。為維護自主，控制技術的使用必須相稱。
必須明確是否、何時、怎樣允許自動識別，並區分“識別某個人”與“持續追蹤某個人”，也區分針對性監控和大規模監控。技術應用需要既有法律的明確依據，原文在此指向 GDPR 第 6 條。
若法律依據是同意，就應有實際有效的辦法，使人對 AI 自動識別作出有意義、可驗證的同意。這也適用於能夠重新關聯到個人的所謂匿名資料。原文指出，網路中很多同意機制讓消費者沒有認真考慮便作出同意，很難稱為實際有效。
隱瞞 AI 身份的系統
人應知道自己直接互動的是另一個人還是機器，實踐者有責任可靠地實現這一點，例如明確透明地說明，或讓人能請求並驗證自己是否在與 AI 互動。
也存在邊界情形，例如真人說話但聲音經過 AI 過濾。人機混淆可能引發依戀、影響行為，或降低對人的獨特價值的認識。因此，類人機器人以及 AI 驅動的虛擬化身，都應接受審慎倫理評估。
違反基本權利的公民評分
社會應保護所有人的自由與自主。任何形式的公民評分都可能削弱自主，危及不歧視原則，因此只有理由明確、措施相稱且公平時才應使用。
公共或私人主體在生活各方面大規模評價人的“道德人格”或“倫理誠信”，尤其在不符合基本權利、不相稱、沒有明確並溝通合法目的的情況下，會危害這些價值。
較窄領域的描述性評分，例如教育、電子學習或駕駛資格評分，也需要完全透明的程式，說明過程、目的與方法。原文有一處措辭容易引起歧義；結合上下文，其意思是：透明本身不能防止歧視、保證公平，也不是解決評分問題的萬能辦法。
可行時，宜允許人無不利後果地退出；否則必須有質疑、糾正評分的機制。存在權力不對稱時尤其重要。為遵守基本權利且在民主社會中必要時，應在技術設計中保障退出選擇。
致命自主武器系統
2019 年原文指出，有數量不明的國家和產業正在研究開發致命自主武器，從可選擇目標的導彈，到可能無需人工介入便決定攻擊誰、何時及何處攻擊的學習系統。
這引發根本倫理關切：可能出現歷史上前所未有、無法控制的軍備競賽，使軍事情境中人的控制幾乎完全喪失，而故障風險未被處理。
原文支援歐洲議會 2018 年 9 月 12 日決議及相關努力，呼籲儘快形成共同、具法律約束力的立場，處理人的控制、監督、問責、國際人權法與國際人道法的實施及軍事戰略問題，並聯系歐盟條約第 3 條促進和平的目標。此處記錄當時立場，不代替今天相關法律與外交進展。
潛在的長期問題
原文認為，當時 AI 開發仍以具體領域為中心，需要受過訓練的研究者和工程師明確目標。把時間尺度推遠，可以設想某些重大長期關切。
採取風險方法時，應考慮“未知的未知”及黑天鵝事件。黑天鵝指極少見但影響重大的事件，可能從未被觀察到，因此其機率估計通常高度不確定。潛在後果重大、發展方向又不確定，意味著應定期評估。
原文腳註列舉通用人工智慧、人工意識、人工道德代理、超級智慧、變革性 AI 等當時尚不存在的設想，同時指出許多人認為這些並不現實。這裡保留原版對分歧的說明，不把這些設想或某個時間表當成事實。
結論
AI 已經並將繼續在商業和社會方面產生積極影響，但相關風險和其他負面影響需要恰當、適度地處理。
AI 兼具變革和顛覆作用。大量數字資料、計算和儲存能力進步、方法與工具上的科學工程創新，推動了近年的發展。它仍將以尚無法想象的方式影響社會與公眾。
正因如此，需要值得信任的系統。只有技術以及背後的流程和人都可信，人們才能有信心、充分地享有益處。因此，可信 AI 是本指南的基礎目標。
可信 AI 有三個組成部分：合法，遵守所有適用法律法規；合乎倫理，遵循原則與價值；穩健，在技術和社會層面避免善意之下的無意傷害。每一部分都必要但單獨不足，理想狀態是協調並相互交疊，發生衝突時應努力調和。
第一章提出基本權利及相關倫理原則；第二章列出七項要求及技術、非技術實現方法；第三章提供評估清單幫助落實。最後的機會與關切旨在推動進一步討論。
原文把以公眾為中心、根植於歐盟條約的立場視為歐洲的獨特基礎，希望透過可信 AI 支援創新與技術發展，促進個人和集體福祉，使所有人在尊重基本權利、民主與法治的前提下獲得 AI 益處。
術語表
以下術語按本指南的用法解釋，幫助理解原文，不代表所有領域都採用相同定義。
人工智慧或 AI 系統
AI 系統是人設計的軟體系統，也可能包含硬體。給定複雜目標後，它透過獲取資料感知環境，解釋結構化或非結構化資料，針對所得知識推理或處理資訊，決定為實現目標應採取的最佳行動，並在物理或數字環境中行動。
它可以使用符號規則，也可學習數值模型；還可分析先前行動怎樣影響環境，調整行為。人既可直接設計，也可用 AI 最佳化設計。
作為學科，AI 包括機器學習，例如深度學習、強化學習；機器推理，例如規劃、排程、知識表示與推理、搜尋、最佳化；以及機器人，包括控制、感知、感測器、執行器，並將其他技術整合進資訊物理系統。原版另有配套檔案《AI 的定義：主要能力與科學學科》作進一步說明。
AI 實踐者
開發（包括研究、設計、提供資料）、部署（包括實施）或使用 AI 的個人與組織；本指南在此術語中特意不包括僅以最終使用者或消費者身份使用系統的人。
AI 系統生命週期
包括開發階段，涵蓋研究、設計、提供資料及有限試驗；部署階段，涵蓋實施；以及使用階段。
可審計性
系統的演算法、資料和設計流程能夠接受評估的能力。不意味著商業模式和智慧財產權資訊必須始終公開。設計早期就建立可追溯與日誌機制，有助於審計。
偏差
對人、物件或立場的傾向或偏向。AI 中的偏差來源很多：資料收集和訓練、規則設計者對特定情境的看法、線上學習與互動適應，以及按偏好定製的推薦和資訊流。
偏差不一定來自人的偏見或人為收集的資料，也可能來自系統僅在有限情境中使用，無法推廣到其他情境。偏差可能有益或有害、故意或無意；導致歧視或不公平結果時，指南稱為“不公平偏差”。
倫理學
倫理學屬於哲學，研究怎樣的行動是好的、人的生命有什麼價值、什麼是正義、什麼是美好生活等問題。通常分四個主要領域：
- 元倫理學：研究規範性語句的意義與指涉，以及它們是否有真值、怎樣確定。
- 規範倫理學：探討是非標準，為具體行動賦予評價，確定道德行動的路徑。
- 描述倫理學：經驗研究人的道德行為和信念。
- 應用倫理學：面對具體、往往在歷史上新出現的情境或行動領域，研究有義務或被允許做什麼。現實決定常受時間壓力與有限理性約束；AI 倫理通常屬於這一領域，聚焦設計、開發、實施和使用的規範性問題。
倫理討論中的 moral 指具體文化、群體或個人在某時點實際存在的行為模式、習俗與慣例；ethical 則指從系統性學術角度，對這些行動和行為作評價。中文譯法可能重疊，應依據上下文辨別。
合乎倫理的 AI
開發、部署和使用符合倫理規範的 AI，包括將基本權利作為特殊道德權利，以及相關倫理原則、核心價值。它是可信 AI 三個組成部分中的第二個。
以人為中心的 AI
使人的價值處於開發、部署、使用和監測的中心，尊重基本權利，包括歐盟條約和憲章中的權利。共同基礎是人的尊嚴及獨特、不可剝奪的道德地位。
這也要求考慮人類生態系統中的自然環境和其他生命，並採取支援未來世代充分發展的可持續方法。
紅隊測試
由紅隊或獨立小組採用對抗角色或視角，挑戰組織、改善有效性的實踐，尤其用於發現和處理潛在安全漏洞。
可復現性
AI 實驗在相同條件下重複時，是否表現出相同行為。
穩健的 AI
既包括按應用領域、生命週期階段等具體條件適當實現的技術穩健，也包括充分考慮執行背景與環境的社會穩健。這有助於防止出於善意卻造成無意傷害，是可信 AI 的第三個組成部分。
利益相關者
所有研究、開發、設計、部署、使用 AI 或直接、間接受影響的人，包括企業、組織、研究者、公共服務和其他機構、公民社會、政府、監管者、社會夥伴、個人、居民、勞動者與消費者。
可追溯性
能夠持續追蹤系統資料、開發和部署流程，通常透過有記錄、可識別的文件來實現。
信任
原文借鑑研究，將信任理解為對善意、能力、誠信和可預測性的信念，願意在風險情境下依賴另一方的意願，或二者結合。
雖然通常不會把“信任”直接作為機器的屬性，本指南強調，不只要相信系統合法、合乎倫理且穩健，也應能夠信任生命週期內參與的人與流程。
可信 AI
同時包含合法、合乎倫理和技術與社會層面穩健這三個組成部分。可信性不只針對系統自身，也包含生命週期中所有流程與行為者。
脆弱個人與群體
由於情況多樣，並不存在普遍接受、廣泛同意的統一法律定義。何為脆弱通常取決於情境：童年或疾病等暫時人生階段，資訊不對稱、市場權力等市場因素，貧困等經濟因素，性別、宗教、文化等身份因素，以及其他因素，都可能發揮作用。
憲章第 21 條不歧視的事由可作為參考，包括性別、種族、膚色、民族或社會出身、遺傳特徵、語言、宗教或信仰、政治及其他見解、少數族群身份、財產、出生、殘障、年齡、性取向。另有其他法律保護特定群體。任何列表都不窮盡，且會隨時間改變。脆弱群體指共享一種或多種脆弱特徵的一群人。
至此完成原指南的實質知識正文。可回到可信 AI 與倫理框架，或用評估清單檢查具體系統。
參考與延伸閱讀
原文：Ethics Guidelines for Trustworthy AI，2019 年 4 月 8 日，European Union，印刷頁 32至38。歐盟數字戰略原文入口。本頁為非官方中文翻譯，調整分篇、術語和版式；保留案例及腳註的實質知識補充，歷史數字和預測已註明。末頁個人身份名單及行政資料不在知識譯文範圍。
依歐盟再利用說明，原資料採用 CC BY 4.0，本頁譯文按相同許可提供，不表示原機構認可。
查詢原文涉及的公共問題：世衛組織道路交通傷害用於查詢更新統計；聯合國可持續發展目標中文入口便於核對目標；歐洲議會 2018 年自主武器決議可核對歷史立場。
歷史專案可獨立查詢：BRIDGE 能源專案協作、Fabulos 公共交通專案、Sophia Genetics。入口用於理解原文案例，不表示這些服務獲得本站推薦或其效果已經本站驗證。