本篇在原文中的位置
本文是《可信 AI 倫理指南》2019 年版第一章的中文譯文，對應印刷頁 9至13。前篇總覽與整體框架說明“合法、合乎倫理、穩健”三個組成部分；本篇解釋為什麼以基本權利為出發點，以及四項倫理原則怎樣幫助判斷 AI 的發展與使用。
可信 AI 的基礎
本章以基本權利為基礎，並以四項倫理原則體現這些權利。要確保 AI 合乎倫理且穩健，應遵循這些原則。這裡主要借鑑倫理學。
AI 倫理是應用倫理的一個分支，研究開發、部署和使用 AI 所引發的倫理問題。其核心關切，是識別 AI 怎樣促進或損害個人的美好生活：既包括生活質量，也包括民主社會所需的人的自主與自由。
倫理反思至少有兩個用途。一方面，它促使我們思考如何在最基本層面保護個人和群體；另一方面，它可激發新的創新方向，使技術主動促進倫理價值，例如幫助實現聯合國可持續發展目標和當時即將推進的歐盟 2030 議程。
雖然本指南主要關注保護作用，倫理對創新方向的作用也不應被低估。可信 AI 可以透過創造繁榮、價值和財富改善個人發展與集體福祉，也可以透過促進健康、改善經濟、社會與政治機會分配的平等，幫助形成更公平的社會。
因此，需要理解怎樣支援 AI 的開發、部署和使用，使所有人能夠在 AI 廣泛應用的世界中充分發展，在保持全球競爭力的同時建設更好的未來。像其他強大技術一樣，AI 的社會應用會帶來倫理挑戰，例如對人和社會、決策能力與安全的影響。隨著人越來越依賴 AI 輔助，或把決定交給 AI，我們必須確保它公平影響人的生活、符合不可隨意犧牲的價值，並有適當問責流程保障這些要求。
歐洲需要明確，希望實現怎樣一種充滿 AI 的未來，以及應研究、開發、部署和使用何種 AI 才能實現這一願景。指南將可信 AI 視為建設這一未來的路徑：以民主、法治和基本權利為系統基礎，使系統持續改善並維護民主文化，也為創新與負責任的競爭提供環境。
任何領域的倫理準則，無論多麼一致、成熟和細緻，都不能代替倫理推理本身。實際判斷始終要留意一般指南無法窮盡的情境細節。除了規則，還需要透過公共討論、教育與實踐學習，建立並維持倫理文化與思維方式。
基本權利：法律權利，也是道德權利
指南採用以歐盟條約、歐盟基本權利憲章和國際人權法為基礎的 AI 倫理方法。在民主與法治框架中尊重基本權利，為識別能夠落實到 AI 中的倫理原則與價值提供了基礎。
歐盟條約和憲章規定了一系列基本權利，歐盟機構和成員國在實施歐盟法時有義務尊重。憲章從尊嚴、自由、平等、團結、公民權利和司法等方面表述這些權利。其共同基礎是尊重人的尊嚴，體現以人為中心的方法：人在公民、政治、經濟與社會領域，具有獨特、不可剝奪且應被優先尊重的道德地位。
這種以人為中心的方法，並不意味著把人理解成脫離社會的個體。個人自由和人的尊嚴，必須有使其在現實中可實現、有意義的共同社會與憲制基礎。
憲章權利具有法律約束力，但基本權利並不在每一種情境中提供完整法律保護。例如，憲章的適用範圍受歐盟法領域限制；國際人權法，尤其《歐洲人權公約》，則在歐盟法範圍之外的一些領域也對成員國有約束力。同時，基本權利也因人的道德地位而屬於個人，並在一定程度上屬於群體，不以法律是否賦予強制力為前提。
作為可依法執行的權利，基本權利屬於可信 AI 的第一個組成部分，即合法性；作為基於人的內在道德地位、人人享有的權利，它們也支援第二個組成部分，即倫理性。指南不指導第一個部分的合規，因此下文提到基本權利時，主要表達後一種倫理含義。
哪些權利尤其與 AI 有關
國際人權法、歐盟條約和憲章中的權利不可分割。以下幾組權利尤其適合用於理解 AI。許多權利在特定情況下可依法執行，必須遵守；即使法律要求已經滿足，倫理反思仍能幫助判斷技術對權利及其基礎價值有什麼影響，進一步區分“技術上目前能做什麼”與“應當做什麼”。
尊重人的尊嚴
每個人都有內在價值，其他人和 AI 等新技術都不應貶低、損害或壓制這種價值。人應被當作具有道德地位的主體來尊重，而非只是被篩選、分類、評分、驅趕、塑造或操縱的物件。
因此，AI 的開發方式應尊重、服務和保護人的身心完整、個人及文化認同，並幫助滿足基本需要。
個人自由
人應有自由為自己的人生作決定。這既意味著免受公權力的不當干預，也意味著政府和非政府組織需要採取行動，使有被排斥風險的人能夠平等獲得 AI 的益處與機會。
在 AI 情境中，需要減少直接或間接的非法脅迫、對心理自主與心理健康的威脅、不正當監控、欺騙和不公平操縱。個人自由還意味著幫助人更充分掌控生活，包括經營自由、藝術和科學自由、表達自由、私人生活與隱私權，以及集會和結社自由。
民主、正義與法治
憲政民主中的一切政府權力都必須有法律授權，並受到法律限制。AI 應維護和促進民主過程，尊重不同價值及生活選擇。它不得削弱民主程式、人的公共審議或投票系統。
AI 也應作出承諾，不損害法治的基本原則以及有強制力的法律法規，並確保正當程式和法律面前人人平等。
平等、不歧視與團結
必須平等尊重所有人的道德價值與尊嚴。這不只是“不歧視”；不歧視仍允許基於客觀理由，區分本就不同的情形。
在 AI 中，平等意味著系統執行不應產生帶有不公平偏差的輸出。例如訓練資料應儘可能包容，反映不同人口群體。同時，要適當尊重可能脆弱或有被排斥風險的個人和群體，包括勞動者、女性、殘障人士、少數族裔、兒童、消費者等。
公民權利
公民擁有投票、獲得良好行政管理、查閱公共檔案、向行政機關提出請願等多種權利。AI 能顯著提升公共產品與服務提供的規模與效率，也可能損害這些權利，因此需要保護。
這裡使用“公民權利”，並不是否認或忽視身處歐盟的第三國國民、無正規身份者或非法居留者的權利。他們同樣享有國際法保護的權利，這也適用於 AI 場景。
從權利到四項倫理原則
公共、私人及公民社會組織已從基本權利出發，提出許多 AI 倫理框架。歐洲科學與新技術倫理小組曾以歐盟條約及憲章價值為基礎提出九項原則。本指南在此基礎上，吸收其他組織已提出的大部分原則，並澄清各項原則所要促進的目標。
以基本權利為基礎，也能借鑑歐洲數十年的權利保護實踐，減少監管不確定性，增加清晰度與可預見性。這些原則可以啟發新監管工具，在社會技術環境改變時幫助解釋基本權利，也可為 AI 開發、部署和使用提供理由，並隨社會演進動態調整。
AI 應增進個人與集體福祉。以下四項原則根植於基本權利，是實踐者應始終努力遵循的倫理要求。排列順序參照憲章中相關權利出現的順序，不表示原則間存在高低等級。
一、尊重人的自主性
歐盟基本權利致力於保障人的自由與自主。與 AI 互動的人，應能夠對自身保持充分、有效的自我決定，並參與民主過程。
AI 不應無正當理由地使人處於從屬地位、脅迫、欺騙、操縱、塑造或驅趕人。設計應增強、補充並賦能人的認知、社會與文化能力。人與 AI 之間的功能分配應遵循以人為中心的設計，讓人保有有實際意義的選擇機會。這要求對 AI 工作流程保留人的監督。
AI 還可能根本改變工作領域。它應在工作環境中支援人，並以創造有意義的工作為目標。
二、防止傷害
AI 不應造成、加重傷害，或以其他方式對人產生不利影響。這要求保護人的尊嚴、心理和身體完整。傷害可以針對個人或集體，也包括社會、文化、政治環境中的無形損害，例如對個人或群體生活方式的文化傷害。
系統及其執行環境應安全、具備安全防護；系統應技術穩健，避免被惡意使用。開發、部署和使用過程中，應額外關注脆弱人群，並讓他們參與。
還要特別注意因權力或資訊不對稱而產生、加重不利影響的情境，如僱主與員工、企業與消費者、政府與居民之間的關係。防止傷害也包含對自然環境和所有生命的考慮。
三、公平
開發、部署和使用 AI 必須公平。公平有多種解釋，但至少包含實質與程式兩個層面。
實質層面要求利益與成本得到平等、公正的分配，個人和群體免受不公平偏差、歧視與汙名化。避免不公平偏差後，AI 甚至可能提升社會公平。也應促進人平等獲得教育、商品、服務與技術。使用 AI 不應欺騙人，或無正當理由地損害選擇自由。
公平還要求手段與目的相稱，仔細考慮相互競爭的利益與目標。原文以“不要用大錘砸堅果”說明比例原則：實現目的所採取的措施，應限於嚴格必要的範圍；若多種措施都能實現目的，宜選擇對基本權利與倫理規範不利影響最小的方案。原文以能適用時優先使用公共部門資料、減少個人資料使用為例，並提示也要權衡企業智慧財產權、保密權與使用者權利。
程式層面意味著，對於 AI 以及操作 AI 的人作出的決定，人應能夠提出質疑，並尋求有效救濟。為此，必須能夠識別負責的主體，決策過程也須可闡釋。在工作場景中，結社及加入工會的權利也可支援這一過程。
四、可闡釋性
可闡釋性對建立和維持使用者信任十分關鍵：過程需要透明；系統的能力和目的應公開說明；決定應儘可能向直接與間接受影響的人解釋。缺少這些資訊，就無法適當質疑決定。
但有時不能解釋模型為什麼產生某個具體輸出，或者哪些輸入因素以何種組合促成決定。原文將其稱為“黑箱”演算法，要求特別關注。在整體尊重基本權利的前提下，可能需要採用其他可闡釋性措施，例如可追溯性、可審計性，以及對系統能力作透明說明。
所需闡釋程度高度取決於情境，以及錯誤輸出造成後果的嚴重性。購物推薦不準確的倫理風險，通常與判斷被判刑者能否獲得假釋的系統不同。
譯註：此處 explicability 涵蓋透明溝通、解釋、追蹤與問責的條件，不能簡單等同於“能夠展示模型內部所有引數”。
原則發生衝突時怎麼辦
原則間可能出現張力，沒有固定通用答案。應按照民主參與、正當程式與開放政治參與的承諾，建立可問責的審議方法。
例如，防止傷害與人的自主性可能衝突：預測性警務或許有助減少犯罪，但相關監控可能侵入個人自由與隱私。系統整體收益應顯著超過可預見的個人風險，但抽象原則本身不能直接給出所有正確答案。實踐者應透過有理由、有證據的反思處理倫理難題與權衡，而非憑直覺或任意裁量。
然而，也可能根本找不到倫理上可接受的折中。一些基本權利及對應原則具有絕對性質，例如人的尊嚴，不能作為一般利益權衡中的可交換專案。
本章的核心指導是：開發、部署和使用 AI 時遵循四項原則，承認並處理它們之間的潛在衝突；特別留意兒童、殘障人士、歷史上處於不利地位或有被排斥風險的人，以及僱主與勞動者、企業與消費者等權力或資訊不對稱的關係。
接下來閱讀七項要求與實現方法，看這些原則怎樣進入資料、設計、組織與監督流程。
參考與延伸閱讀
原文：Ethics Guidelines for Trustworthy AI，2019 年 4 月 8 日，European Union，印刷頁 9至13。歐盟數字戰略原文入口。本頁為非官方中文翻譯，調整分篇、術語與版式；原文腳註中的實質解釋已放入相應段落，不轉載個人身份名單。
依歐盟數字資料再利用說明，原資料採用 CC BY 4.0，本頁譯文按相同許可提供，不表示原機構認可。
條款查詢：歐盟基本權利憲章；歐洲人權公約官方中文文字入口。後者入口可選擇中文版本。編輯補充：聯合國人權中文入口用於查詢國際人權框架，不構成本頁對具體法律適用的判斷。