AI 基礎 1:概念與工具 / 中文譯文

資料基礎與隱私:從系統演變到資料責任

從檔案、資料庫到雲端,理解資料系統如何演變,以及質量、資料管道、隱私、同意和治理怎樣影響 AI 的使用。

資料與隱私4 份配套文字稿開始閱讀 ↓
正在準備中文語音…
音色與朗讀設定

音色由瀏覽器和裝置提供,可試聽選擇。AI、API 等常見英文縮寫按字母朗讀,字母之間稍作停頓;裝置有英語音色時自動使用。暫停後從當前句繼續;進度只儲存在此瀏覽器。圖解會讀出文字說明,表格按行朗讀。切換應用或鎖屏後,部分裝置會暫停。

也可以選中正文,直接追問那一段。

圍繞當前文章

把不理解的地方問清楚。

普通搜尋

回答附有原文章節依據,可繼續追問,也可以進入完整講解。

關於回答、隱私和使用額度

回答由 AI 根據本站已釋出資料整理,可能有誤,請結合原文核對。問題、選段與最近幾輪對話會傳送給 Cloudflare 的模型服務處理,請勿提交私人或保密資料。本站資料庫不儲存問題與對話正文;清空或重新整理頁面會結束本頁對話。

問答使用有限額度:同一訪問網路每天最多 10 次生成,全站每天最多 100 次;也可能因服務額度或繁忙暫時不可用。屆時仍可查閱原文和普通搜尋。額度按 UTC 日期重置。為限制濫用,臨時儲存按日加鹽的訪問網路摘要與計數,保留約兩天並定期清理。

閱讀目標

這一頁依次回顧資料系統的演變,討論資料的廣度與深度,再認識建設 AI 資料管道時的倫理、隱私與使用責任。

正文保留原頁的三個主題,後面附四段影片中文文字稿。原材料中的組織和人員身份已作匿名化處理,案例裡的資料型別與推理關係保留。

一、資料系統如何發展

從簡單的事務處理到今天的 AI 平臺,資料採集、搜尋和機器學習不斷改變我們使用資訊的方式。認識這條發展路徑,有助於規劃大型組織中的 AI 整合。

每次技術變化,都改變了資料管道的職責:從儲存、提取資料,走向為推理與生成準備資訊。可以沿著這條路徑思考:自己的系統目前處在哪個位置?

二、AI 專案中資料的深度與廣度

AI 專案不只取決於收集了多少資料,還取決於資料是否多樣、是否與任務真正相關。

原講解借用金融領域的“廣度”和“深度”,幫助判斷資料是否已經適合支援智慧系統。你需要學會發現缺口、減少噪聲、增加有效訊號。在建設管道之前,就應先思考這些問題。

三、建設資料管道的倫理與使用責任

資料工作不只是技術工作,還涉及隱私、同意和著作權等要求。不論處理學習者記錄、內容材料,還是內部文件,都需要理解哪些使用有依據、哪些做法有風險,以及怎樣建立使用者的信任。

需要認識常見問題、實際保護措施,以及為什麼倫理並不是創新的障礙,而是讓專案能夠持續執行的基礎。

最好的 AI 系統,並不從挑選模型開始,而是從資料,以及能夠妥善管理資料的人開始。

影片文字稿一:為什麼先討論資料

要用合適的資料基礎設施支援 AI,需要哪些條件?下面先看資料系統怎樣演變,什麼使資料有價值,以及如何管理倫理、使用責任與運營風險。

還會逐步討論建設和維護適合 AI 的資料管道的方法、怎樣按需求選工具,以及如何為長期維護做好規劃。

影片文字稿二:資料系統的演變

先沿著資料系統的發展走一遍,看看 AI 在今天的資訊系統裡處於什麼位置。

早期計算機資訊系統主要用於採集、核驗和處理資料。它們偏重事務處理,例如線上事務處理系統(OLTP):儲存和更新工資、財務、庫存等業務記錄。

到 20 世紀 90 年代,資料倉儲興起。組織可以把多個來源的資料彙集起來,進行更完整的分析,觀察歷史趨勢,比較不同時期的情況,並支援決策。

進入 2000 年代,索引成為取得資訊的重要方式。以搜尋引擎為例,使用者輸入幾個關鍵詞,就得到一份排序後的結果。原來難以利用的海量資訊,因此變得更容易查詢。

Elasticsearch 等工具又讓更多開發者能夠在自己的平臺里加入搜尋,為大量文字提供檢索和相關性排序。

到了 2010 年代,機器學習在影象等任務中的應用更受關注。訓練模型在照片中認出貓,是一個容易理解的例子。

2022 年末前後,大語言模型進入更廣泛的公眾使用。它們不僅找到資料,還能按要求生成摘要、組織內容和輸出結構化結果,提供不同的資料互動方式。

從儲存和檢索走向生成與推理,是資料系統演變中的重要變化。對專案負責人來說,理解這個過程,不只是為了認識 AI,也有助於規劃組織內的整合。

可以問自己:目前系統主要處理事務,還是已經有資料倉儲?有沒有使用機器學習或更進一步的 AI 服務?

認識這段歷史,有助於規劃基礎設施、界定技術需求,以及與相關人員討論合理預期。從資料庫到搜尋、機器學習,再到大語言模型,每一步都改變了系統能完成的任務。

資料管道也隨之改變。它不再只是把資料從甲處搬到乙處,而是要轉換、補充並整理資料,使其與 AI 的任務相適應,幫助系統形成有依據的輸出,並支援人的決策。

因此,資料管道應該被視為現代 AI 方案的基礎。

譯註:這些方法會共存,採用大語言模型並不意味著事務系統、資料倉儲或搜尋已經過時。2022 年末是公眾使用擴大的時間背景,不是大語言模型最初出現的時間。生成摘要與推理也不自動保證事實準確,仍需資料與結果核驗。
組織內部先減少個人資訊、按許可權檢索;若採用外部模型,片段會跨越邊界,回答與日誌也要管理訪問和刪除。
資料流經過哪裡,隱私就查到哪裡輔助圖解(自制):示例架構採用外部模型;本地部署的邊界與責任也需另行核對。放大檢視圖解 ↗
檢視圖解文字說明

原始資料先做必要性檢查與最少化,在許可權範圍內檢索片段;使用外部模型時,問題及片段會傳至供應商。回答輸出、訪問日誌、快取和備份分別有用途與儲存期限。資料未用於訓練,不表示資料沒有被傳輸。

影片文字稿三:廣度、深度與訊號

同一批資料,為什麼在不同系統裡可能產生很不一樣的結果?可以從系統利用資料的廣度與深度來思考。

傳統搜尋中,使用者輸入關鍵詞,拿到相關文件列表,之後仍然要自己理解資料。與大語言模型結合後,系統可能讀取、解釋並整理答案,讓使用者不必先逐份開啟全部材料。同樣的底層資料,因此有了不同的使用方式。

怎樣評價資料是否足以支援這種能力?原講解借用了金融領域的一本主動投資組合管理著作。它在 1999 年出版,討論怎樣利用有效資訊改善策略、控制風險。這裡借用的不是投資建議,而是“究竟掌握了多少真正可用的資訊”這個問題。

兩個詞尤其重要。廣度是相互獨立的資訊點有多少。深度是這些資訊點包含多少有效訊號、相對於噪聲有多大價值,也就是訊雜比的思路。

放回 AI 專案,可以問:資料集中有多少不同且相對獨立的輸入?每種輸入與關心的結果之間,有多強的聯絡?

只是不斷收集同一種資料,未必增加廣度。資料凌亂、過時,或者過於籠統,也可能缺乏深度。

用一個學習路徑建議系統作例子。先收集內容目錄和歷史選擇記錄,可以知道有哪些選項、過去怎樣選擇。再加入學習表現、滿意度調查,以及最終完成情況等結果,系統就有機會形成更豐富的判斷,不只知道發生了什麼,還能探索相關因素。

譯註:這是對原例子的匿名化表達。加入更多欄位不一定自動增加有效資訊;相關性也不能直接證明“為什麼發生”。資料是否可用,還要符合授權和隱私要求。

管理者應該問:怎樣知道資料已經收集夠了?沒有一個適用於所有專案的完美答案,但可以看跡象:系統的結果是否可靠且相關?有沒有明顯盲區或偏差?持續增加資料之後,表現是否已經趨於平穩?

如果改進逐漸停滯,就該問:缺的是哪種資訊?是不是一直增加系統已經熟悉的材料,還是加入了新的、包含更多上下文的輸入?

資料還需要與實際用途一致。好的訓練或測試資料,應當反映系統之後會怎樣被使用。

結構化文字,例如 JSON 和 YAML,可以幫助表達資料之間的關係。原講解認為,大語言模型常能從這些格式中利用基數關係、選項集合、外來鍵等結構資訊。

例如,如果要建立一個提供建議的助手,不能只看登記記錄,還可能需要諮詢筆記、政策文件、郵件交流和 PDF 說明材料,才能理解它實際面對的環境。

但不能因為這些材料可能有用,就認為應該全部收進來。資訊的來源同樣重要。有些資料可能過於私人、受到限制,或者不允許用於訓練。目標是取得豐富、相關,同時公平、透明且有使用依據的資料。

廣度與深度是幫助規劃的實用問題:是否收集了正確的資料?增加資料的收益是否正在減少?是否該從關注數量,轉向關注質量?誠實回答這些問題,才更容易進入下一階段的資料管道實施。

譯註:原講解對金融著作的借用屬於方法類比,這裡沒有提供經過驗證的 AI 效果公式。結構化格式也不會自動修復錯誤資料、許可權缺失或模型誤解。

影片文字稿四:隱私、同意與信任

現在轉向建設 AI 資料管道的倫理與使用責任。負責人不必自己成為法律專業人士,但需要能識別值得進一步核實的問題。

先問:管道處理的資料是否受到適用規則約束?如果涉及學習者、內容貢獻者或員工的個人資料,很可能需要檢查相關要求。原講解提到加拿大不列顛哥倫比亞省的資訊自由與隱私保護制度、美國相關記錄保護要求,以及歐盟 GDPR;組織內部的規定還可能更嚴格。

譯註:原字幕把美國的 FERPA 轉寫成了“FRPA”,這裡已糾正。不同制度適用的主體、地區與資料範圍並不相同,不能把這段概覽當成所有專案的統一規則。名稱可核對 BC 官方法令、美國官方說明和歐盟法規原文。

常見的保護措施之一,是在適用情況下去除能聯絡到個人的姓名、郵箱、編號等標識。尤其在訓練或微調之前就應考慮這些問題,因為資料一旦影響模型引數,事後精確移除並不容易。

譯註:刪除姓名不等於已經充分匿名化。嵌入索引中的記錄與模型引數也不同:索引通常可以刪除或重建,但要同時處理副本、快取、日誌和訪問許可權;模型中的訓練影響不能按同一方式簡單刪除。

再看著作權。材料即使在網上公開,也不表示可以任意用於訓練或再利用。需要問:是否具備相應使用依據?收集資料時的條件是否允許這種用途?是否涉及改編或再發布?如果使用內容貢獻者提供的材料,內部有沒有相應政策?

還要考慮隱私與使用者的感受。假設建立一個面向個人的建議或申請助手,後臺可能接觸學習表現、日程、個人資料,甚至財務資訊。有沒有說清楚 AI 能看到什麼、不能看到什麼,以及使用者是否有退出或選擇的方式?

人們越來越關心資料怎樣被使用,以及決定如何形成。透明度既關係到適用要求,也關係到信任。

團隊可以用一個問題檢查自己的安排:如果專案被公開報道,能否清楚解釋它的用途和保護措施?如果不能,究竟是哪些地方會引起使用者、內容貢獻者或公眾的擔憂?

即使自認為滿足了最低要求,仍可能面臨公眾反對和聲譽影響。原講解提及錄製前不久發生的一起負面報道,但沒有提供可核實的事件資料,這裡不據此補充細節。

更好的做法是提前安排同意機制、完整文件和清楚可見的控制措施,讓使用者知道系統做什麼、如何運作,以及有哪些保護。

遇到不確定的問題,可以請法務、倫理審查、IT 治理或適用的內部審查人員參與。他們可能讓前期流程更長,但也能幫助避免之後更嚴重的問題。

倫理與使用責任並不是創新的反面。它們為專案長期執行提供基礎;建立信任後,人們才更願意使用系統。

關聯閱讀

資料的使用邊界可以結合倫理四項原則繼續檢查;實際整理和更新,則見AI 資料管道。

參考與延伸閱讀

以下為編輯補充的查詢與學習入口,可按需要繼續閱讀。

回到AI 基礎 1:概念與工具檢視完整閱讀順序,或搜尋概念與段落。