版本與閱讀說明
本頁為《廣島程序：面向開發先進 AI 系統組織的國際行為準則》2023 年 10 月 30 日版本的完整實質正文中文譯文，對應原檔案第 1至8 頁。原文由 G7 廣島 AI 程序形成，經歐盟委員會發布。它提供自願行動指引，並不等同於所有地區現行的強制法律。
下面保留原檔案的適用範圍、前言和十一項行動。組織承擔哪些法律義務，還要按適用制度判斷。譯文中的“應”表達原準則的建議與承諾語氣，不冒充中文官方譯本。
前言：適用物件、生命週期與風險方法
本準則以《面向開發先進 AI 系統組織的國際指導原則》為基礎，旨在促進全球安全、有保障和值得信賴的 AI。它為開發最先進 AI 系統的組織提供自願行動指引，包括最先進的基礎模型與生成式 AI 系統；下文將它們統稱為“先進 AI 系統”。
組織應依據風險開展這些行動。可以支援本準則的主體，包括但不限於學術界、民間社會、私營部門和公共部門的實體。
這份行動清單並不窮盡所有情形。它是一份持續討論和完善的動態檔案，在既有 OECD AI 原則的基礎上回應先進 AI 的近期發展，幫助利用技術收益，並處理相關風險與挑戰。組織應把行動用於整個生命週期，在適當和適用時覆蓋設計、開發、部署與使用。
檔案將按需要審查和更新，包括持續開展包容性的多方利益相關者磋商，以保持對快速變化技術的適用性與響應能力。不同司法管轄區可以採取各自的方法，以不同方式實施這些行動。
在政府發展更持久或更詳細的治理和監管安排期間，準則呼籲組織與有關利益相關者協商，按風險方法行動。準則同時承諾與 OECD、GPAI 和其他利益相關者磋商，提出監測工具與機制的建議，幫助組織對行動實施情況負責。組織也被鼓勵透過分享良好實踐，支援有效監測機制的發展。
此外，組織應建立內部 AI 治理結構和政策，包括自我評估機制，使行動實施和 AI 開發具有責任與問責基礎。
在利用創新機會的同時，先進 AI 的設計、開發和部署應尊重法治、人權、正當程式、多樣性、公平與不歧視、民主，以及以人為中心的取向。
組織不應以破壞民主價值、對個人或社群造成特別嚴重傷害、助長恐怖主義、促進犯罪濫用，或對安全、保障與人權構成重大風險等不可接受的方式開發或部署先進 AI。
國家必須履行國際人權法義務，充分尊重和保護人權；私營部門活動則應符合《聯合國工商企業與人權指導原則》和《OECD 跨國企業準則》等國際框架。
以下十一項行動都應以與風險相稱的方式實施。
一、在整個 AI 生命週期識別、評估和減輕風險
在先進 AI 系統的開發全過程，以及部署和投放市場之前與期間，採取適當措施識別、評價和減輕風險。
這包括採用多樣的內部測試與獨立外部測試，結合不同評價方法，例如紅隊測試，並針對發現的風險和薄弱點實施適當緩解。測試與緩解措施應努力確保系統在整個生命週期中可信、安全且有保障，使其不會造成不合理風險。為支援測試，開發者應使系統開發中的資料集、過程和決策能夠追蹤。這些措施應記錄下來，並由定期更新的技術文件支援。
測試應在安全環境中進行，並設定在生命週期的多個檢查點，尤其是在部署與投放市場之前。測試用來發現風險和薄弱點，幫助確定如何處理意外或故意造成的安全、保障、社會及其他風險。
設計和實施測試時，組織承諾按適當程度關注下列風險：
- 化學、生物、放射性與核風險：先進系統可能降低包括非國家行為體在內的主體開發、設計、取得或使用武器的門檻。
- 進攻性網路能力：系統可能幫助發現、利用薄弱點或將其用於行動。同時須注意，其中某些能力也可能有防禦用途，適合在系統中保留。
- 健康或安全風險：包括系統之間互動、工具使用產生的影響，例如控制物理系統或干擾關鍵基礎設施的能力。
- 模型複製風險：模型製作自身副本、“自我複製”或訓練其他模型帶來的風險。
- 社會、個人與社群風險：系統或模型可能產生有害偏差和歧視，或導致違反適用法律，包括隱私和資料保護規則。
- 對民主價值與人權的威脅：例如助長虛假資訊或侵害隱私。
- 連鎖影響：某個事件可能引發重大負面連鎖反應，影響整個城市、整個活動領域或整個社群。
組織承諾與跨行業有關主體合作，評估並採用緩解措施，特別是應對系統性風險。
作出這些承諾的組織，還應努力推動相關研究與投資：包括先進 AI 的安全、保障、偏差與虛假資訊、公平、可說明性與可解釋性、透明度，以及提高系統面對濫用時的穩健性與可信程度。
二、部署後識別和減輕薄弱點、事件與濫用模式
在部署與投放市場以後，組織應按照風險程度，在適當時以預期方式使用系統，持續監測薄弱點、事件、新出現的風險和濫用，並採取相應行動。
例如，可以透過漏洞獎勵、競賽或獎項，鼓勵第三方和使用者在部署後負責任地發現並報告問題。組織還應適當記錄已報告事件，與其他利益相關者合作，減輕已經發現的風險和薄弱點。
在適合設定報告機制的情況下，應使多樣的利益相關者都能使用，而不是隻接受某一類人的反饋。
三、公開報告能力、限制與適當和不適當用途
組織應公開說明先進 AI 系統的能力、限制，以及適合與不適合使用的領域，以提供足夠透明度並加強問責。
每次重要的新版本釋出，都應有包含實質資訊的透明度報告。報告、使用說明和相關技術文件應按需要保持更新，例如包括：
- 對潛在安全、保障、社會及人權風險開展了哪些評價。
- 模型或系統具有什麼能力，哪些重要表現限制會影響適用領域。
- 對安全和社會影響與風險的討論和評價，例如有害偏差、歧視、隱私或個人資料保護威脅，以及公平方面的影響。
- 為評價模型或系統能否從開發階段進入後續階段而進行的紅隊測試結果。
報告應清楚且可理解，使適當的部署者和使用者能夠解釋模型或系統輸出，並正確使用系統。透明度報告還應有紮實的文件過程支援，例如技術文件與使用說明，而不只是宣傳性陳述。
四、負責任地共享資訊並報告事件
開發先進 AI 的組織應與行業、政府、民間社會和學術界合作，推動負責任的資訊共享與事件報告。
可適當共享的資訊包括但不限於評價報告、安全和保障風險、危險的預期或非預期能力，以及 AI 生命週期中規避防護措施的嘗試。
組織應建立或參與相應機制，在適當時發展、改進並採用共同標準、工具、機制和良好實踐，以確保先進 AI 的安全、保障與可信程度。
整個生命週期都需要適當、相關的文件與透明度，尤其對於可能對安全和社會造成重大風險的系統。
組織還應與生命週期中的其他組織合作，向公眾分享和報告相關資訊，以推進安全、保障與可信發展；適當時也應與有關公共主管機關合作並共享上述資訊。報告過程應保護智慧財產權。
五、制定、實施並披露 AI 治理與風險管理政策
政策應以風險方法為基礎，包括隱私政策和風險緩解措施。
組織應建立適當的內部機制，制定、披露並實施風險管理與治理政策。例如，透過問責與治理過程，在可行時貫穿生命週期識別、評估、預防和處理風險。
適當時應披露隱私政策，說明個人資料、使用者提示和先進系統輸出等資料的處理方式。組織應按照風險方法建立並公開治理政策及其實施機制，並使問責與治理過程能夠在生命週期中評價和減輕風險。
風險管理政策應在適當、相關時把風險管理框架用於整個生命週期，覆蓋系統相關的多種風險，並定期更新。
組織還應透過政策、程式與培訓，使工作人員瞭解自己的職責和組織的風險管理實踐。
六、投資並實施穩健的安全控制
整個生命週期都需要物理安全、網路安全和內部威脅防護。
措施可以包括保護模型權重、演算法、伺服器與資料集，例如實施資訊保安的執行措施，以及適當的網路與物理訪問控制。
組織應評估網路安全風險，建立網路安全政策，並採取充分的技術與組織解決方案，使先進 AI 的網路安全與具體情形和相關風險相稱。
模型權重應在適當安全且訪問受限的環境中儲存和使用，以降低未經批准釋出與未經授權訪問的風險。這還包括建立薄弱點管理過程，定期審查安全措施，使其保持較高標準並持續適合當前風險。
組織也應建立穩健的內部威脅識別計劃，其保護程度應與最有價值的智慧財產權和商業秘密相稱，例如限制對專有且未公開模型權重的訪問。
七、建立可靠的內容認證與來源機制
在技術可行時，開發和部署水印等可靠機制，使使用者能夠識別 AI 生成的內容。
對於組織的先進 AI 系統製作的內容，應在適當且技術可行時提供內容認證與來源機制。來源資料應包括生成內容的服務或模型標識，但不必包含使用者資訊。
組織還應努力開發工具或 API，讓使用者判斷某個內容是否由其先進 AI 系統生成，例如透過水印。組織應按需要合作並投資研究，推動這一領域的發展。
此外，還應考慮標籤、宣告等其他機制，在可能且適當時，讓人知道自己正在與 AI 系統互動。
八、優先研究和投資有效的風險緩解
優先開展緩解社會、安全與保障風險的研究，並把投資投入有效措施。
這包括開展、合作進行和投資支援安全、保障與信任的研究，處理關鍵風險，並開發適當緩解工具。
組織承諾優先研究維護民主價值、尊重人權、保護兒童與脆弱群體、維護智慧財產權與隱私，以及避免有害偏差、錯誤資訊、蓄意虛假資訊和資訊操縱。還承諾投資適當工具，主動管理先進系統的風險，包括環境與氣候影響，使技術收益能夠實現。
組織被鼓勵分享風險緩解研究和良好實踐。
九、優先應對全球重大挑戰
優先開發能夠應對全球重大挑戰的先進 AI，尤其包括但不限於氣候危機、全球健康和教育。
這些努力應支援聯合國可持續發展目標，鼓勵面向全球共同利益的 AI 開發。
組織應負責任地維護可信且以人為中心的 AI，支援面向公眾的數字素養教育和培訓，包括學生與勞動者，使他們能夠從先進 AI 使用中受益，也幫助個人與社群更好理解技術的性質、能力、限制和影響。
組織應與民間社會和社群團體合作，識別優先挑戰，開發創新方案，應對全球最重要的問題。
十、推動國際技術標準
推動國際技術標準的發展，並在適當時採用。
組織被鼓勵參與國際技術標準與良好實踐，包括水印標準；在制定測試方法、內容認證與來源機制、網路安全政策、公開報告等措施時，與標準制定組織合作。
尤其應努力發展具有互操作性的國際技術標準和框架，幫助使用者區分 AI 生成與非 AI 生成內容。
十一、採取適當的資料輸入與權利保護措施
組織應適當管理資料質量，包括訓練資料和資料收集，以減輕有害偏差。
措施可以包括透明度、保護隱私的訓練技術，以及測試或微調，確保系統不會洩露機密或敏感資料。
組織應採取適當防護，尊重隱私和智慧財產權相關權利，包括受版權保護的內容，並遵守適用法律框架。
關聯閱讀
可以先讀可信 AI 的倫理框架，再完成行為準則閱讀與反思。反思時應指出本頁的具體風險與對應措施，而不只寫出“安全、公平、透明”等名稱。
參考與延伸閱讀
原作品：*Hiroshima Process International Code of Conduct for Organizations Developing Advanced AI Systems*，2023 年 10 月 30 日。來源與權利說明：European Union，經歐盟委員會 Digital Strategy 釋出。本頁進行了中文翻譯、網頁分章與術語整理；不含釋出頁的第三方相簿照片，不表示獲得原機構認可。
- 歐盟委員會發布頁與原檔案：英語，可核對八頁原文與版本。
- 歐盟數字資料再利用說明：英語，說明來源標註、改動與第三方素材的邊界。
- CC BY 4.0：許可說明。本頁譯文按該許可提供，網站其他內容的條件另行判斷。