可信 AI 七項要求：技術、資料與治理方法

從原則走向可以實施的要求

本文是《可信 AI 倫理指南》2019 年版第二章中文譯文，對應印刷頁 14至23。前一章提出尊重人的自主性、防止傷害、公平和可闡釋性；本章把它們轉成七項要求，再說明技術與組織方法。文中的歷史政策、標準和研究進展反映 2019 年原版語境。

前章另有一項貫穿後文的提醒：AI 雖能帶來重大益處，也會產生難以預見、識別和衡量的風險，例如對民主、法治、分配正義和人的心智的影響。應採取與風險程度相稱的緩解措施。

七項要求由誰落實

這些要求適用於整個生命週期中的不同利益相關者。開發者指研究、設計或開發 AI 的人；部署者指在業務流程中使用 AI，或用它向他人提供產品和服務的公共或私人組織；最終使用者指直接或間接與系統互動的人；更廣泛的社會則包括其餘直接或間接受影響者。

開發者應把要求落實到設計和開發流程；部署者應確保使用的系統及提供的產品服務符合要求；最終使用者和更廣泛社會應知道這些要求，並能夠要求它們得到遵守。

以下要求涵蓋系統、個人和社會層面，但並不窮盡一切。它們同等重要，彼此支援，應在整個生命週期內持續實施和評估；排列次序不表示等級。具體實施還要考慮領域、用途、相互衝突及影響程度。雖然大部分要求適用於所有 AI，對直接或間接影響人的系統尤其應關注；在某些工業應用中，個別要求的相關性可能較小。

檢視圖解文字說明

七項要求同等重要，彼此支援而且可能存在需要處理的張力。開發、部署、使用及後續改進時都需實施和評估，具體措施按領域、用途與潛在風險調整。編號用於對應原文，並不表示先完成一項才輪到下一項。

部分要求已體現於現行法律。實踐者仍有責任遵守適用的一般法律及領域法規；本章不取代這些義務。

一、人的能動性與監督

根據尊重人的自主性原則，AI 應支援人的自主和決策，支援使用者的能動性、基本權利及人的監督，從而幫助形成民主、繁榮、公平的社會。

基本權利

AI 既能促進，也能妨礙基本權利。例如，它可幫助人追蹤個人資料、提高教育的可及性，支援受教育權；但其影響範圍與能力也可能損害權利。

存在這類風險時，應在系統開發前開展基本權利影響評估，判斷風險能否減少；如果限制權利，要評估其能否以民主社會中保護他人權利與自由所需的必要性得到正當化。同時，應建立接收外部反饋的機制，使潛在權利侵害能夠被提出。

人的能動性

使用者應能夠就 AI 作出知情、自主的決定。他們需要知識和工具，充分理解並與系統互動，並在可能時合理評估或質疑係統。系統應幫助人依據自身目標作出更好、更知情的選擇。

某些系統會藉助難以察覺的機制影響行為，甚至利用潛意識過程，進行不公平操縱、欺騙、驅趕或行為塑造，威脅個人自主。因此，使用者自主應處於系統功能的中心。

一個關鍵事項，是不受僅基於自動化處理、且產生法律效果或類似重大影響的決定所支配的權利。原文在此指向 GDPR 第 22 條；具體適用條件和例外應查原法規，不能將這句話理解成對所有自動化的一概禁止。

人的監督

監督可幫助防止 AI 削弱自主或產生其他不利影響，治理機制可採用三種方式：

也必須確保公共執法機關能按職責進行監督。監督強度應根據應用與潛在風險，配合其他安全和控制措施。同等條件下，人能夠實施的監督越少，就越需要廣泛測試和嚴格治理。

二、技術穩健性與安全

技術穩健性與防止傷害緊密相關。系統開發應採取預防風險的方法，可靠地按預期執行，儘量減少無意、意外傷害，防止不可接受的傷害。這也適用於執行環境變化，以及人或人工代理以對抗方式與系統互動的情形。人的身心完整須受到保障。

抵禦攻擊與安全防護

像其他軟體一樣，AI 應避免可被攻擊者利用的漏洞。攻擊可能針對資料，例如資料投毒；針對模型，例如模型洩漏；也可能針對軟體或硬體基礎設施。對抗攻擊會改變資料、系統行為與決定，甚至使系統完全停止。

惡意行為或非預期情況都可能損壞系統和資料；安全流程不足也會產生錯誤決定，甚至身體傷害。要認為一個系統具備安全性，就應考慮非預期用途、軍民兩用等雙重用途，以及惡意濫用，並採取防範和緩解措施。

研究應形成理解攻擊、開發防護、改進評估方法的良性迴圈，促進 AI 與安全領域交流。相關各方還應共同建立跨境安全規範與互信環境，促進國際合作。

後備方案與一般安全

系統應有出現問題時啟用的後備方案。例如從統計方法切換為規則方法，或在繼續行動前請求人工介入。同時要考慮無法立即獲得人工介入的情況。

系統應完成預定任務而不傷害生命或環境，儘量減少非預期後果與錯誤。不同應用領域需要建立識別、澄清和評估風險的流程。防護強度取決於風險，風險又與系統能力有關；如果開發過程或系統本身可預見地具有特別高的風險，應提前開發和測試安全措施。

準確性

準確性指系統作出正確判斷的能力，例如正確分類資訊，或根據資料和模型作出正確預測、建議、決定。明確、完善的開發與評估流程，有助於發現、緩解和糾正不準確預測帶來的意外風險。

若偶爾預測錯誤不可避免，系統應能說明出錯的可能性。直接影響人的生命時，高準確性尤其關鍵。

可靠性與可復現性

可靠的系統能在不同輸入和情境中適當工作。這對於審查系統、防止意外傷害十分重要。可復現性指同一實驗在相同條件下重複時，能否表現出相同行為，幫助研究者與政策制定者準確描述系統。

復現檔案可以記錄並重現從研究、最初資料收集到最終結果的各個開發步驟，方便測試和復現。

三、隱私與資料治理

隱私是特別容易受到 AI 影響的基本權利，與防止傷害密切相關。保護隱私需要適當的資料治理，涵蓋資料質量、完整性、對部署領域的相關性、訪問協議，以及以保護隱私的方式處理資料的能力。

隱私與資料保護

整個生命週期都應保障隱私與資料保護。這既包括使用者最初提供的資訊，也包括互動中形成的關於使用者的資訊，例如針對某人的輸出、某人對推薦的反應。

數字行為記錄不僅可能反映偏好，也可能讓系統推斷性取向、年齡、性別、宗教或政治觀點。若希望人信任資料收集過程，就必須確保所收集資料不會被用於非法或不公平歧視。

資料質量與完整性

資料集質量對系統表現至關重要。收集來的資料可能帶有社會形成的偏差、不準確與錯誤，應在訓練前處理。也要保證資料完整性，因為惡意資料可能改變系統行為，持續學習的系統尤其如此。

規劃、訓練、測試、部署各階段使用的流程和資料集，都應測試並記錄。外購系統也須如此，不能只檢查自行開發的系統。

資料訪問

處理個人資料的組織應制定訪問協議，無論資料主體是不是系統使用者。協議要明確誰能在什麼情況下訪問。只有具備資格、能力且確有需要的人，才應獲得相應訪問許可權。

四、透明度

透明度與可闡釋性緊密相關，涉及資料、系統與商業模式。

可追溯性

應儘可能高標準地記錄產生決定的資料與流程，包括資料收集、標註、演算法，以及系統本身的決定。這樣才能識別錯誤原因，幫助防止重犯；可追溯性也支援審計和解釋。

可解釋性

可解釋性包括說明技術過程，以及有關人的決定，例如為什麼選擇某個應用領域。技術上，人應能夠理解並追蹤 AI 的決定。

有時需要在解釋性與準確性之間權衡：增加解釋性可能降低準確性，提高準確性也可能犧牲解釋性。系統對人的生活有重大影響時，應能夠要求適當解釋其決策過程。解釋應及時，並適合相關人的專業程度，例如普通人、監管者或研究者。

還應解釋 AI 在多大程度上影響組織決策、系統設計選擇及部署理由，從而實現商業模式透明。

溝通

AI 不應冒充人；人有權知道自己正在與 AI 互動，因此係統應可被識別。在保障基本權利需要時，應允許人選擇與人互動。

此外，應按用途適當地向實踐者與最終使用者說明能力、準確性及侷限，幫助他們形成合理預期。

五、多樣性、不歧視與公平

整個生命週期都應促進包容與多樣性。這不僅要求考慮並讓受影響者參與，也要求透過包容設計確保平等使用與平等待遇。

避免不公平偏差

訓練和執行資料可能含有無意的歷史偏差、不完整內容或治理問題。延續這些偏差，可能對某些群體產生直接或間接偏見與歧視，加重邊緣化。

傷害也可能來自故意利用消費者偏差或不公平競爭，例如串通形成同質價格，或市場不透明。能夠識別的歧視性偏差，應儘可能在資料收集階段去除。

開發方式，包括演算法程式設計本身，也可能帶有不公平偏差。應設立監督流程，清楚、透明地分析系統目的、約束、要求和決定。招募來自不同背景、文化與學科的人，可促進多樣觀點，應予鼓勵。

可訪問性與通用設計

尤其在面向消費者的應用中，系統應以使用者為中心，使不同年齡、性別、能力和特徵的人都能使用產品和服務。殘障人士存在於所有社會群體中，技術對他們的可訪問性尤為重要。

系統不應採用一種方案適合所有人的思路，而應遵循通用設計原則和適用的無障礙標準，覆蓋儘可能廣的使用者，使所有人能夠公平參與現有及新出現的計算機輔助活動，並使用輔助技術。原文舉出 EN 301 549，並聯系公共採購中“為所有人設計”的要求及《殘疾人權利公約》。

利益相關者參與

應在整個生命週期中諮詢直接或間接受影響的人。部署後仍應定期收集反饋，並建立長期參與機制。例如在組織實施 AI 的整個過程中，保障勞動者知情、諮詢及參與。

六、社會與環境福祉

依據公平和防止傷害原則，更廣泛的社會、其他有感知能力的生命及環境，也應被視為生命週期中的利益相關者。應鼓勵可持續性和生態責任，促進用 AI 應對可持續發展目標等全球問題。理想情況下，AI 應使全人類受益，包括未來世代。

可持續、環境友好的 AI

AI 有望幫助應對緊迫社會問題，但實現方式本身也應儘可能環境友好。應評估開發、部署、使用及整個供應鏈的影響，例如審視訓練時的資源和能源消耗，選擇危害更小的方案，並鼓勵保障全供應鏈環境友好的措施。

社會影響

在教育、工作、照護、娛樂中廣泛接觸社交 AI，可能改變我們對社會行動主體的理解、社會關係及依戀。這裡的社交 AI 包括透過實體機器人或虛擬化身模擬社交、與人溝通互動的系統，它們可能改變社會文化實踐和社會生活結構。

AI 可能增強社交能力，也可能使其退化，進而影響身心福祉。因此必須認真監測和考慮其影響。原文以在人主導的治療中，機器人輔助自閉症兒童改善社交和溝通能力的研究說明潛在益處，並未聲稱所有社交 AI 都有這種效果。

社會與民主

除了個人層面，也應評估開發、部署和使用對制度、民主及整體社會的影響。涉及民主過程時尤其需要謹慎，不只包括政策決策，也包括選舉情境。

七、問責

問責補充上述要求，與公平緊密相關。需要建立機制，在開發、部署和使用前後，都確保系統及結果有人承擔責任並接受問責。

可審計性

應允許評估演算法、資料和設計流程，但這不意味著商業模式及智慧財產權資訊始終必須完全公開。內部與外部審計、相關評估報告的可獲取性，有助於可信。涉及基本權利，尤其安全關鍵的應用，應可被獨立審計。

儘量減少並報告負面影響

既要能夠報告哪些行動或決定促成某項結果，也要能夠應對結果的後果。對於直接與間接受影響者，識別、評估、記錄並減少潛在負面影響尤其重要。

舉報者、非政府組織、工會等在提出合理關切時，應得到適當保護。開發、部署、使用之前及過程中，可以採用紅隊測試、演算法影響評估等方法減少負面影響，且評估應與風險相稱。

權衡

要求之間可能衝突，不得不作權衡時，應以理性、系統的方法，在現有技術能力範圍內處理。先識別涉及的利益與價值，再明確承認衝突，評估權衡對倫理原則和基本權利的風險。

如果沒有倫理上可接受的權衡，就不應以當前形式繼續開發、部署或使用。每項權衡決定都應有理由、適當記錄；決定者應為作出權衡的方式負責，並不斷複查決定是否仍適當，必要時修改系統。

內部或外部倫理及領域專家、倫理委員會，以及對可能受不利影響者的實質諮詢，都可幫助識別衝突和尋找解決辦法。原文也強調高等教育與研究機構在培養倫理專業人才中的作用。

救濟

發生不公正的不利影響時，應預先設有易於獲得、足以提供適當救濟的機制。人知道出了問題可以獲得救濟，是信任的重要條件；對脆弱個人和群體尤其需要關注。

實現方法需要持續評估

技術方法與非技術方法都可用於落實要求，覆蓋整個生命週期。應持續評估採用的方法，報告實施流程的變動，並說明理由，例如為什麼作出某項設計、開發或部署選擇。

系統不斷演進，也在動態環境中行動，所以可信 AI 是連續過程。原文圖 3 先將權利、原則和價值轉成要求，再用技術與非技術方法落實；隨後進入“開發、使用、分析、再設計，再回到開發”的迴圈，以持續評價和說明理由為中心。不能在釋出前檢查一次後便視為完成。

以下方法可互補，也可在特定情況下相互替代。不同要求與敏感程度可能需要不同實現方式。這份列表既不完整，也不是強制清單；方法的成熟度也不相同，有些在 2019 年已經可用，有些仍需研究。

技術方法

將可信要求寫入系統架構

應把要求轉成流程或對流程的約束，嵌入架構。例如規定始終遵循的允許行為或狀態、絕不能突破的禁止行為或狀態，或將兩者結合，甚至採用可證明的複雜行為保證。獨立流程可在執行中監測系統是否遵守約束。

會學習並動態調整行為的系統，可以被視為可能出現非預期行為的非確定性系統。若藉助“感知、規劃和行動”週期理解，應在三個階段都加入要求：感知時識別遵守要求所需的環境要素；規劃時只考慮符合要求的計劃；行動時將行為限制在實現要求的範圍。

這個架構只是一般性、並不完全準確的描述，但它為約束與政策提供了可以落入具體模組的錨點，幫助整個系統變得可信，並被感知為可信。

從設計階段融入倫理與法治

價值融入設計的方法，在抽象原則與具體實現決定之間建立明確聯絡。其關鍵想法是，把遵守規範落實到系統設計中。企業應從最初識別影響，以及避免負面影響所需遵循的規範。

隱私保護設計、安全設計等已是常用思路。要獲得信任，系統的流程、資料、結果都應安全，能夠抵禦對抗資料與攻擊；還應有安全停機機制，並能在攻擊等強制停機後恢復執行。

解釋方法

為了信任系統，需要理解它為什麼這樣行動、為什麼給出某種解讀。可解釋 AI（XAI）研究試圖理解底層機制、尋找解決方法。

2019 年原文指出，對神經網路而言這仍是開放挑戰：訓練所得數值引數難與結果建立直觀聯絡，資料微小變化有時會造成解讀劇變，例如把接送學生的巴士誤識為鴕鳥；攻擊者也能利用這種脆弱性。解釋研究不僅幫助向使用者說明行為，也關係到可靠部署。

測試與驗證

AI 的非確定性和情境依賴，使傳統測試不足。系統採用的概念或表示可能只有在足夠真實的資料中才暴露問題。應在訓練和部署期間監測底層模型，確認穩定性、穩健性，以及執行是否處於已理解、可預測的邊界內；規劃結果應與輸入一致，決定方式應允許驗證底層過程。

應儘早開始測試，貫穿整個生命週期，尤其不能忽略部署之後；範圍包括資料、預訓練模型、環境及整體行為。測試應由儘可能多樣的人設計和執行，採用多種指標，從不同角度覆蓋不同類別。

可考慮讓可信且多樣的紅隊刻意嘗試破壞系統以發現漏洞，或透過漏洞獎勵，鼓勵外部人員發現並負責任地報告錯誤與弱點。最後，要檢查輸出或行動是否與前面的處理結果一致，並與預定政策比較，確保沒有違反約束。

服務質量指標

可設適當指標，幫助形成系統是否在開發和測試中充分考慮安全的基礎認識。指標可評估演算法訓練與測試，也可採用傳統軟體的功能、效能、易用性、可靠性、安全性、可維護性指標。

非技術方法

監管

支援可信性的法規在當時已存在，例如產品安全法律及責任框架。哪些法規需要修訂、調整或引入，兼顧保護與促進作用，是原文配套政策與投資建議所討論的問題。

行為準則

組織可承諾採用指南，並將可信 AI 寫入企業責任章程、關鍵績效指標、行為準則或內部政策。開發或使用 AI 的組織可以記錄意圖，再以基本權利、透明度、防止傷害等價值的標準支援這些意圖。

標準化

設計、製造、業務實踐等標準可成為質量管理工具，使使用者、消費者、組織、研究機構與政府透過採購認可和鼓勵倫理行為。

除了傳統標準，還可採用認證認可制度、職業倫理準則、符合基本權利的設計標準等共同治理方法。原文舉出 ISO 標準和 IEEE P7000 系列，並討論未來可信 AI 標籤的可能性，以具體技術標準確認安全、技術穩健性、透明度等要求。此處是 2019 年的設想，不能據此宣稱某產品已獲今天的認證。

認證

無法期待每個人都徹底理解 AI 的執行與影響，因此可考慮由組織向公眾證明系統透明、可問責且公平。認證應按領域與技術採用標準，適當地結合各情境的工業和社會規範。

但認證絕不能代替責任，應配合問責框架，包括責任說明、複查及救濟機制。

透過治理框架落實問責

組織應建立內部及外部治理框架，確保開發、部署、使用相關決定的倫理責任。例如指定 AI 倫理負責人，或設內部、外部倫理小組，提供監督與建議；認證規範和機構也可發揮作用。

應與行業或公共監督組織保持溝通，分享良好實踐、討論難題、報告新問題。這些機制能補充但不能取代法定監督，例如資料保護法依法要求的資料保護官或同類措施。

透過教育與意識培養倫理思維

可信 AI 鼓勵所有利益相關者知情參與。溝通、教育、培訓既傳播潛在影響的知識，也使人知道自己可以參與塑造社會發展。

物件包括設計與開發者、企業或個人使用者，以及沒有購買或使用系統、卻被系統作出決定的人和整體社會。應提升全社會基礎 AI 素養；向公眾提供教育的前提之一，是確保這個領域的倫理專業人員得到適當訓練。

利益相關者參與和社會對話

AI 的益處應為所有人所獲得，這需要開放討論，以及社會夥伴、利益相關者和公眾參與。許多組織已用利益相關者小組討論 AI 與資料分析，包括法律、技術、倫理專業人員、消費者代表和勞動者。

主動尋求參與、討論用途和影響，有助於評估結果及方法，在複雜情形下尤其有用。

多樣、包容的設計團隊

系統越能獨立執行任務，負責設計、開發、測試、維護、部署和採購的團隊，就越需要反映使用者及社會的多樣性。這有助於客觀考慮不同觀點、需要與目標。

理想團隊不僅在性別、文化、年齡上多樣，也在專業背景和技能組合上多樣。

下一篇：完整評估問題清單，將要求轉成可以逐項追問的實施問題。也可與面向先進系統開發者的廣島 AI 行為準則全文比較。

參考與延伸閱讀

原文：Ethics Guidelines for Trustworthy AI，2019 年 4 月 8 日，European Union，印刷頁 14至23。歐盟數字戰略原文入口。本頁為非官方中文翻譯，作分篇、術語與版式調整；原圖 2 為中文重繪，圖 3 的生命週期關係以文字呈現。原文腳註中的實質補充已融入相關段落。

依歐盟再利用說明，原資料採用 CC BY 4.0，本頁譯文及註明的重繪圖按相同許可提供，不表示原機構認可。

原文提及的公開查詢入口：GDPR 原文可核對自動化決定、資料保護的適用條件；聯合國殘疾人權利公約中文文字說明無障礙與平等參與；EN 301 549 標準資料庫可查詢資訊通訊技術無障礙標準與相關版本。上述連結幫助查詢，不意味著本頁已證明任何系統合規。