可信 AI 倫理指南：摘要、引言與整體框架

閱讀說明

本文是《可信 AI 倫理指南》（Ethics Guidelines for Trustworthy AI）2019 年版的中文譯文第一部分，涵蓋執行摘要、引言和整體框架。後續依次是基本權利與四項倫理原則、七項要求與實現方法、完整評估問題清單及應用機會、關鍵關切與術語。分篇只為便於閱讀，不改變原文的論證次序。

譯文保留原文的歷史語境，包括當時計劃開展的試用工作。文中的“應當”“必須”等規範性用語用於表達原文對倫理性和穩健性的要求，不自動構成現行法律義務，也不提供法律合規意見。法律、政策與技術版本應另行核對。

原檔案說明：指南由歐盟委員會於 2018 年 6 月設立的獨立專家組編寫，2019 年 4 月 8 日公開。2018 年 12 月草案收到五百多位參與者的反饋。成員支援整體框架，但不必然同意每項表述；內容反映專家組觀點，不能視為委員會的官方立場。個人聯絡人、署名和行政資訊不納入本譯文。

執行摘要：可信 AI 需要同時具備什麼

本指南旨在促進可信 AI。可信 AI 包含三個組成部分，而且三個部分都應在系統整個生命週期內得到滿足：第一，合法，遵守所有適用法律法規；第二，合乎倫理，遵循倫理原則與價值；第三，穩健，既在技術層面穩健，也在社會層面穩健，因為即使出於善意，AI 系統仍可能造成無意的傷害。

每個組成部分都是必要條件，但單獨任何一個都不足以實現可信 AI。理想情況下，三個部分應當相互協調，在實際執行中有所交疊。如果現實中出現衝突，社會應努力使它們趨於一致。

指南為實現可信 AI 提供一個框架。它不專門處理第一個組成部分，即合法性，而是針對第二、第三個部分，指導如何促進和保障合乎倫理、穩健的 AI。指南面向所有利益相關者，希望超越一張倫理原則列表，進一步說明怎樣在社會技術系統中落實這些原則。其指導分為三個由抽象到具體的層次，最後列舉 AI 帶來的機會和重大關切。

第一層：從基本權利確立倫理原則

第一章以基本權利為出發點，確定開發、部署和使用 AI 時必須尊重的倫理原則及相關價值。核心指導如下：

• 開發、部署和使用 AI 時，遵循尊重人的自主性、防止傷害、公平、可闡釋性四項原則。承認並處理原則之間可能出現的衝突。
• 特別關注兒童、殘障人士、歷史上處於不利地位或有被排斥風險的群體，也要關注權力或資訊不對稱的情境，例如僱主與勞動者、企業與消費者之間的關係。
• 承認 AI 除了給個人和社會帶來重大益處，也可能產生風險和負面影響。有些影響很難預測、識別或衡量，例如對民主、法治、分配正義乃至人的心智的影響。適時採取與風險程度相稱的緩解措施。

原文在這裡提示，《歐盟基本權利憲章》第 24至27 條涉及兒童、老年人、殘障人士融入社會及勞動者的權利，第 38 條涉及消費者保護。

第二層：將原則轉成七項要求

第二章在第一章基礎上提出 AI 應滿足的七項要求，並說明可以採用技術方法和非技術方法來實現。核心指導如下：

• 確保開發、部署和使用過程滿足七項要求：人的能動性與監督；技術穩健性與安全；隱私與資料治理；透明度；多樣性、不歧視與公平；環境與社會福祉；問責。
• 同時考慮技術方法和非技術方法，落實這些要求。
• 促進能夠評估 AI、推動要求落實的研究與創新；向更廣泛公眾傳播結果和尚未解決的問題；系統培養新一代 AI 倫理專業人才。
• 清楚、主動地向利益相關者說明系統的能力、侷限，以及各項要求怎樣實施，幫助形成現實的預期；讓人知道自己正在與 AI 互動。
• 促進系統的可追溯性與可審計性，尤其是在關鍵情境中。
• 讓利益相關者參與整個生命週期。透過培訓和教育，使各方瞭解可信 AI，並具備相應能力。
• 意識到不同原則與要求之間可能存在根本張力。持續識別、評估、記錄並溝通這些權衡及解決辦法。

第三層：用具體問題評估落實情況

第三章給出一份具體但並不窮盡所有問題的可信 AI 評估清單，幫助將第二章的要求付諸實踐。清單需要按 AI 系統的具體用途調整。它同樣只指導倫理性與穩健性，不是法律合規清單。

開發、部署和使用 AI 時，應採用並調整這類評估清單。但清單永遠不可能窮盡所有問題。確保可信 AI，並不是在方框內打勾，而是在整個生命週期中不斷識別並實施要求、評估解決方案、改善結果，同時讓利益相關者參與。

最後一部分以具體例子說明值得追求的有益機會，以及需要認真考慮的關鍵關切，讓前面框架中的若干問題更加具體。

指南為各種 AI 應用提供橫向基礎，但不同情境會產生不同挑戰。因此，還應探索是否需要補充針對具體行業的指導。指南不取代現有或未來的政策、監管，也不阻止引入這些政策或監管。它是一份應隨技術、社會環境和知識發展而持續審視、更新的檔案，是討論“面向歐洲的可信 AI”的起點，也希望推動全球層面的 AI 倫理研究、反思和討論。

這裡的歐洲範圍主要指歐盟成員國，也涵蓋在其他地方開發或生產、但在歐盟部署和使用的系統。原文同時希望對歐盟之外具有參考意義，並提到挪威和瑞士也參加了 2018 年 12 月公佈的 AI 協調計劃。

引言：為什麼提出可信 AI

歐盟委員會在 2018 年 4 月 25 日和 12 月 7 日的通報中，提出支援“合乎倫理、安全且處於技術前沿的歐洲 AI”的願景。它有三項支柱：增加公共和私人 AI 投資、促進採用；為社會經濟變化做好準備；建立適當的倫理與法律框架，以加強歐洲價值。

為支援這一願景，委員會設立獨立的人工智慧高階別專家組，負責兩項成果：AI 倫理指南，以及政策與投資建議。本指南依據 2018 年 12 月 18 日草案公開徵詢所得的反饋，經進一步討論修訂；它也參考了歐洲科學與新技術倫理小組的工作及其他類似實踐。參與者共 52 人，在討論與交流中以“多元一體”為共同承諾。

AI 有顯著改變社會的潛力，但 AI 本身不是目的。它是一種有望促進人的充分發展、提升個人和社會福祉、增進共同利益，並帶來進步與創新的手段。例如，它能夠幫助實現聯合國可持續發展目標：促進性別平衡、應對氣候變化、更合理地使用自然資源、改善健康、出行和生產流程，也能支援追蹤可持續性與社會凝聚力指標的進展。

要實現這些目標，AI 必須以人為中心，承諾服務於人類和共同利益，改善人的福祉與自由。機會伴隨著需要妥善、適度處理的風險。當時正處在能夠塑造 AI 發展的重要視窗：既要讓人能夠信任 AI 所處的社會技術環境，也希望生產者透過在產品和服務中落實可信 AI 獲得競爭優勢。因此，需要一邊儘量實現收益，一邊防範並減少風險。

在技術快速變化的環境中，信任仍應成為社會、社群、經濟和可持續發展的基石。如果沒有清晰、全面的可信性框架，個人和群體就難以對技術的發展與應用建立信心。指南因此將可信 AI 作為基礎目標，並將其視為實現技術前沿與倫理並重、尊重人權、民主和法治的發展路徑。

信任針對的是整個社會技術系統

可信是個人和社會開發、部署、使用 AI 的前提。如果 AI 以及其背後的人不能證明自身值得信任，就可能出現不希望的後果，應用採用也會受阻，潛在的社會經濟收益便無法實現。

信任不只涉及技術本身的特徵，也涉及包含 AI 應用的整個社會技術系統。航空、核能或食品安全中的信任問題同樣如此：決定人是否信任的，不只是某個技術部件，而是系統及其完整執行環境。

因此，可信 AI 需要整體性、系統性的方法，覆蓋生命週期內參與這一環境的所有行為者與流程。這包括人、公共部門、企業、基礎設施、軟體、協議、標準、治理、既有法律、監督機制、激勵結構、審計程式和良好實踐的報告機制等。

三個組成部分必須貫穿生命週期

這三部分各自必要，但單獨不足；未來也可能需要額外條件。理想狀態是相互支援，但現實中可能衝突，例如既有法律的範圍與內容一時落後於倫理規範。作為社會成員，個人與集體都有責任使三者共同支援可信 AI；當法律不適應倫理原則時，立法者或政策制定者也可能需要檢視既有法律是否充分。

可信的方法為“負責任的競爭力”奠定基礎，使受到 AI 影響的人能夠相信，其設計、開發和使用合法、合乎倫理且穩健。指南旨在促進負責任、可持續的創新，將倫理作為 AI 發展的一根核心支柱，使個人成長與社會共同利益得到促進、賦能和保護。有潛在風險防護，人們才能更充分地享有 AI 的益處。

AI 的使用與影響都不會止於國界，因此其全球機會與挑戰需要全球性應對。指南鼓勵各方建立可信 AI 的全球框架，在形成國際共識的同時維護以基本權利為基礎的方法。

適用物件、範圍與原版試用安排

指南面向所有設計、開發、部署、實施、使用 AI 或受到 AI 影響的人，包括企業、組織、研究者、公共服務部門、政府機構、公民社會、個人、勞動者與消費者。

承諾實現可信 AI 的利益相關者，可以自願使用指南作為落實承諾的方法，尤其可在開發、部署、使用過程中採用第三章的實用評估清單。清單也可補充並融入已有評估流程。

指南提供一般性基礎，但不同情境的問題不同。音樂推薦系統與建議關鍵醫療治療的系統，倫理關切並不相同；企業對消費者、企業對企業、僱主對員工、公共部門對居民的應用，也各有機會與挑戰。因此必須按具體應用調整實施方式，並探索是否需要行業性補充。

原文邀請各方試用評估清單、提供反饋，以理解哪些事項可統一處理，哪些需要行業方法。其當時安排是於 2019 年夏季啟動試用、持續到年底，並計劃根據反饋於 2020 年初修訂清單，感興趣者可透過歐洲 AI 聯盟表達參與意願。譯註：這是 2019 年原版記載的歷史安排，並非今天仍開放的報名通知。

整體框架：合法、倫理與穩健各負責什麼

合法的 AI

AI 不是執行在沒有法律的世界。開發、部署和使用 AI 已受歐洲、國家與國際層面多種有約束力的規則影響。原文列舉的來源包括歐盟一級法：條約及基本權利憲章；歐盟二級法：通用資料保護條例、產品責任指令、非個人資料自由流動條例、反歧視指令、消費者法和工作場所安全健康指令；聯合國人權條約、歐洲委員會公約，例如《歐洲人權公約》；以及成員國法律。醫療器械條例等規則則針對特定領域。

法律既有消極義務，也有積極義務，不只說明不能做什麼，也說明應該做什麼、可以做什麼。法律禁止一些行為，也為另一些行為提供條件。基本權利憲章除了資料保護、不歧視等權利，也保障經營自由、藝術和科學自由。

本指南不專門解釋怎樣實現法律合規，而是指導倫理性與穩健性。後兩者的部分內容雖已體現於法律，但完整落實可能超出既有法律義務。本檔案不提供法律意見，不創造法律權利，也不向第三方施加法律義務。自然人和法人仍有責任遵守當前適用、或隨 AI 發展而依法出臺的未來法律；本指南以所有適用的法律權利與義務仍具有強制性、必須得到遵守為前提。

合乎倫理的 AI

可信 AI 不只是守法。法律未必與技術發展同步，有時可能與倫理規範脫節，也可能並不適合解決某類問題。因此係統還需要符合倫理規範。

穩健的 AI

即使目的合乎倫理，個人和社會仍需要相信系統不會造成無意傷害。系統應安全、可靠地執行，並預先設定防護，避免非預期的不利影響。

穩健有兩個層面：技術層面，要根據應用領域、生命週期階段等具體條件確保技術穩健；社會層面，要充分考慮系統執行的背景與環境。倫理性與穩健性緊密交織、彼此補充，第一章原則及第二章要求同時處理這兩個方面。

從原則走向實施與評估

檢視圖解文字說明

合法、合乎倫理、穩健均為必要但單獨不充分的條件。指南側重倫理與穩健：第一章從基本權利提出自主、防止傷害、公平、可闡釋四項原則；第二章提出七項要求，以技術及非技術方法實施；第三章按具體用途使用非窮盡清單評估。各階段均需處理衝突與持續複查。

第一章以基本權利為基礎，闡明倫理原則；第二章把原則轉成貫穿生命週期的七項要求，並提供技術與非技術實現方法；第三章將要求化為具體、非窮盡的評估問題，供按用途調整。最後透過機會與關鍵關切推動進一步討論。

這裡的基本權利有兩種相連而不同的含義：作為國際及歐盟人權法的一部分，它們支援可依法執行的權利，屬於合法性；作為因人的身份而產生、並不依賴法律約束力才存在的道德權利，它們也為倫理性提供基礎。

下一篇：基本權利、四項倫理原則及原則間的衝突。若想先了解它在整體治理中的位置，可返回可信 AI 與倫理框架。

參考與延伸閱讀

原文：Ethics Guidelines for Trustworthy AI，2019 年 4 月 8 日，European Union。來源：歐盟數字戰略原文入口。本篇對應原文印刷頁 2至8。

本頁為非官方中文翻譯；作了分篇、術語統一、版式調整和中文圖形重繪，不表示原機構認可。未轉載個人簡介、身份名單或第三方照片。原資料依歐盟數字資料再利用說明採用 CC BY 4.0；本頁譯文及註明的重繪圖按相同許可提供。原文的法律和政策名稱保留其歷史語境，不能作為當前合規結論。

編輯補充：聯合國可持續發展目標中文入口便於查詢原文提到的共同發展目標；歐盟基本權利憲章可用於核對權利條款。