AI 基礎 2:業務流程 / 中文譯文

向量資料庫與語義搜尋:按意義尋找資料

解釋向量資料庫怎樣儲存嵌入並支援語義搜尋,沿分塊、編碼、相似性檢索與更新理解按意義找資料的能力和限制。

語義檢索1 份配套文字稿開始閱讀 ↓
正在準備中文語音…
音色與朗讀設定

音色由瀏覽器和裝置提供,可試聽選擇。AI、API 等常見英文縮寫按字母朗讀,字母之間稍作停頓;裝置有英語音色時自動使用。暫停後從當前句繼續;進度只儲存在此瀏覽器。圖解會讀出文字說明,表格按行朗讀。切換應用或鎖屏後,部分裝置會暫停。

也可以選中正文,直接追問那一段。

圍繞當前文章

把不理解的地方問清楚。

普通搜尋

回答附有原文章節依據,可繼續追問,也可以進入完整講解。

關於回答、隱私和使用額度

回答由 AI 根據本站已釋出資料整理,可能有誤,請結合原文核對。問題、選段與最近幾輪對話會傳送給 Cloudflare 的模型服務處理,請勿提交私人或保密資料。本站資料庫不儲存問題與對話正文;清空或重新整理頁面會結束本頁對話。

問答使用有限額度:同一訪問網路每天最多 10 次生成,全站每天最多 100 次;也可能因服務額度或繁忙暫時不可用。屆時仍可查閱原文和普通搜尋。額度按 UTC 日期重置。為限制濫用,臨時儲存按日加鹽的訪問網路摘要與計數,保留約兩天並定期清理。

閱讀目標與導言

本頁為中文譯文。我們將認識語義鴻溝、向量嵌入和向量資料庫,理解按意義檢索怎樣工作,觀察個人與組織的應用,以及它與 RAG 的關係。

設想有人問起“上個月討論的客戶體驗方案”。你記得內容,卻用這幾個詞搜出 847 條不合適結果,因為檔案實際叫“客戶旅程最佳化”。這是原資料設計的示例:人記住概念,檔案裡出現的詞卻可能不同。

人還會說“提出活動點子的郵件”或“海灘日落的照片”,系統則常依賴名稱、日期、型別與標籤。這種人理解意義的方式與資料組織之間的差距,稱為語義鴻溝。

一、從 token 到可比較的表示

文字可以先分詞成 token,再進入模型的數值計算。例如,“The quick brown fox”的示意分段為 The、quick、brown、fox;實際分詞器不一定按整詞切分。

嵌入把詞語、句子或片段表示為向量,即一組數字。原圖給出 512 維的假設:quick 對應 [0.2, -0.5, 0.8, 0.1, -0.3, …],fast 對應 [0.3, -0.4, 0.7, 0.2, -0.2, …]。在合適的同一表示空間中,相近意義可能有較高相似度。

譯註:這些數值只是示意,展示的五個維度不能證明完整向量相近。token 在語言模型內的表示,與用於文件檢索的句段嵌入不是必然相同的產物;向量檢索時計算相似度,也不等於模型正在重新學習。

因此,搜尋“quick vehicles”可能找到寫著“fast cars”的內容,不必依賴詞面完全一致。

二、關鍵詞檢索與語義檢索

比較項

關鍵詞檢索

語義檢索

主要依據

詞項、欄位、標籤及其匹配關係

嵌入表示與相似關係

示例

日落、發票編號

暖色山景、與某個問題意思相近的段落

優勢

精確編號、術語與可控匹配

措辭不同、概念接近的資料

需要注意

同義、上下文和表達變化

相關不等於正確,需要表示模型和索引評價

原資料用“精確匹配”概括傳統搜尋,但實際關鍵詞系統也可以有同義詞、分詞、排序等機制。兩種方法可以組合,精確編號和語義問題不必二選一。

三、嵌入為什麼像“意義指紋”

原講解用指紋作類比:內容對應數字表示,相近內容能被比較。山中日落和海灘日落地點不同,卻共享日落、暖色等概念,因此可能在適當模型中相近。

它還用“海拔”“暖色程度”解釋向量維度。這是建立直覺的簡化,真實模型中的單個維度通常不能直接命名為一個清晰屬性。

向量也不是唯一且無損的身份證明,不能用來替代原文、雜湊校驗或事實核對。相反意思可能共享很多語義特徵,例如“可以退款”與“不可退款”。

二維語義示意中,退貨問題靠近兩個退款說法;其中“可退款”和“不可退款”彼此接近卻結論相反。
距離接近,不等於事實相同輔助圖解(自制):二維位置為人為構造,不是實際嵌入模型的向量或投影。放大檢視圖解 ↗
檢視圖解文字說明

向量相似性幫助找到表達相關的候選材料。圖中“可退款”和“不可退款”靠得很近,說明語義相關並不證明結論一致。仍需閱讀條件、版本和原文;實際嵌入通常具有更多維度。

看圖時要注意,相近位置表示相關,不表示兩句話可以互換。檢索到內容以後,還必須讀清否定、條件與適用範圍。

四、向量資料庫怎樣查詢

流程通常包括:提取和整理內容;使用嵌入模型形成表示;儲存向量及必要後設資料;把查詢轉成可比較表示;查詢相似項,再返回對應原始資料。

為了在大規模資料中加快查詢,系統使用索引及近似搜尋等方法。可以把它類比成按內容關係組織資料,而不僅按字母或檔名排序。

向量庫可以支援 Agent 的長期資料檢索,但不是所有記憶都必須存成向量。對話狀態、精確業務記錄、許可權與任務進度,也可能由普通資料庫或其他結構管理。儲存向量並不自動意味著系統已經學會業務或成為專家。

五、個人與組織中的例子

組織資料發現

原資料用一家諮詢機構說明:報告、案例與人員專長散落在不同部門,術語不一致,導致重複製作。語義檢索使人能夠用自然語言找相關資料與經驗,幫助共享知識。

文中“知識複用提高 50%”沒有可核對來源與測量口徑,因此只作為匿名教學案例,不是推廣到所有組織的結果。

客服知識庫

“電腦開不了機”“啟動失敗”“電源問題”可能相關,但不總是同一個故障。語義檢索可以提供候選處理辦法,幫助服務人員更快定位知識。

原案例稱平均處理時間降低 40%、首次解決率改善。沒有原始證據,不能用作自己的預期;也要檢查是否查到了適用於該裝置與版本的步驟。

會議筆記與客戶準備

原資料描述一名市場人員,需要在通話前從雜亂筆記裡尋找零售客戶挑戰。自然語言查詢可能跨不同會議找到相關內容,減少僅因用詞不同而漏掉資料。

文中從 20 分鐘到數秒的變化是示例,不是已驗證統計。它提示可以衡量準備時間、遺漏與重複工作,而不只是看搜尋結果數量。

專業文件研究

法律概念可能用多種方式表達,語義檢索可幫助找到候選案例。原文把“信義責任”與“注意義務”當作相關表達,但它們在法律中不能簡單等同;仍需專業人員檢查具體概念、法域與判決內容。

原案例“研究時間減少 60%”同樣缺少出處。檢索範圍變廣有可能有益,也可能帶來更多不適用結果。

其他用途

可以按想法尋找筆記、按概念找圖片、按內容而不是名稱找檔案;也可以用於客服知識、入職政策和跨術語研究。實際評價應檢查詢到的資料是否正確、完整、最新且允許訪問。

六、圖片與聲音怎樣進入向量空間

圖片

一張 256 × 256 的圖片有 65,536 個畫素,RGB 影象每個畫素包含三個通道值。模型可以從畫素或影象塊中學習邊緣、紋理與更復雜結構,最後產生數百或數千維的表示。

原文說影象沒有文字意義上的分詞,這有助於區分媒體;但某些視覺架構會使用影象塊或離散 token,不能概括為影象處理從不涉及 token。

聲音

原講解介紹一條常見路徑:波形表示隨時間變化的訊號;轉換成譜圖以後,一條軸是時間,一條軸是頻率,強度反映相應能量;網路再從低層頻帶、節奏,到語音單位或更抽象特徵,形成向量。

這不是所有音訊模型唯一的路徑,有些直接處理波形或使用其他表示。聲音嵌入也可能側重語音內容、說話人或聲學事件,不會自動同時包含所有意義和情緒。

七、跨模態檢索為什麼需要對齊

文字、圖片、聲音和影片都能表示成向量,但不能因為都由數字構成,就直接放在一起比較。跨模態模型需要把不同編碼器的輸出訓練或對映到相互相容的空間。

原資料以“金毛幼犬”的文字、圖片與叫聲舉例:在支援相應概念與媒體的對齊系統裡,可以跨格式找到相關資產。單憑犬叫音訊未必能可靠識別品種,這只是說明可能的檢索關係。

影象與文字分別經過相互對齊的編碼器進入可比較空間;音訊需要適用的編碼與對齊,不能混用任意向量。
跨模態比較需要經過對齊輔助圖解(自制):圖中距離僅用於表達機制,不是實際向量或實驗結果。放大檢視圖解 ↗
檢視圖解文字說明

影象和文字經分別編碼與配對訓練,使相關圖文在比較空間中接近。音訊若需按文字搜尋,也要相應的音訊文字對齊。任意不同模型即使輸出維數相同,數值也不必具有相同含義;結果仍需核驗。

圖中各媒體先經過適合的編碼器,再進入可比較空間;隨意混用不同模型向量,不能得到可靠跨模態搜尋。

應用可以包括:用文字找雲網路圖,按視覺和聲音找“有活力”的影片片段,或者圍繞歷史遺址同時找文章、圖片與相關講解。不同資料仍需許可、質量與來源檢查。

八、它與 RAG 怎樣連線

語義檢索改善資料發現的方式,有機會減少查詢時間、發現意外關聯、幫助使用組織知識。它不是“理解一切”的保證。

把相關資料找出來以後,還可以交給生成模型組織回答,這就進入下一篇 RAG 與業務知識。分詞、表示、索引、檢索和生成是不同環節,不要把它們當成一個自動完成的步驟。

影片文字稿:從找不到檔案到按意義發現

一種熟悉的困難是,尋找上個月有關客戶體驗的方案,用“客戶體驗方案”搜尋,卻得到 847 條不合適的結果。檔案實際可能叫“客戶旅程最佳化”。這不是沒有資料,而是記住的概念與資料裡的詞不同。

人會想“提出活動創意的郵件”“暑期旅行照片”或“討論新戰略的文件”,系統則經常依賴精確名稱、關鍵詞與文字。這種距離叫語義鴻溝。關鍵詞匹配不一定知道 quick 與 fast 意義相近,也不一定知道客戶體驗與客戶旅程相關。

向量嵌入提供一種連線方式。可以把它比作意義指紋:詞、句子或文件被表示為一組數字,模型學習形成的相似關係,可以幫助找到措辭不同的內容。

原講解說 quick 與 fast 會比較接近,而 slow 可能不同。要注意,相反或相關詞也可能在某種表示裡接近,不能把距離直接當成邏輯等價。指紋也只是類比,不保證唯一且無損。

文字、影象與聲音都可以有數值表示,但表示側重不同;只有經過合適訓練與對齊,才可能跨媒體比較,不是任意數字向量都能互通。

向量資料庫儲存這些表示及相關資訊。資料先計算嵌入並建立索引,搜尋時問題也形成相容表示,再尋找相近項,返回對應資料。就像幫助理解查詢方向的資料管理員,而不是隻對照原詞。

這些機制可以幫助 Agent 取回背景、對話或組織知識,讓系統在當前任務中獲得所需資料。但向量庫不是全部記憶,也不意味著模型自動從每次對話訓練或成為領域專家。

從詞面匹配擴充套件到意義發現,可以改善找資料的體驗,減少因為名稱不同而漏檢。可靠實現仍要驗證相關性、資料質量、許可權與更新,而不是僅用“AI 懂我”概括全部過程。

關聯閱讀

檢索到資料後,可透過RAG帶入回答;索引怎樣保持可靠,需回到資料管道檢查質量和更新。

參考與延伸閱讀

以下為編輯補充,不為匿名效率數字提供背書。

回到AI 基礎 2:業務流程檢視完整閱讀順序,或搜尋概念與段落。