閱讀目標與導言
本頁為中文譯文。我們將認識語義鴻溝、向量嵌入和向量資料庫,理解按意義檢索怎樣工作,觀察個人與組織的應用,以及它與 RAG 的關係。
設想有人問起“上個月討論的客戶體驗方案”。你記得內容,卻用這幾個詞搜出 847 條不合適結果,因為檔案實際叫“客戶旅程最佳化”。這是原資料設計的示例:人記住概念,檔案裡出現的詞卻可能不同。
人還會說“提出活動點子的郵件”或“海灘日落的照片”,系統則常依賴名稱、日期、型別與標籤。這種人理解意義的方式與資料組織之間的差距,稱為語義鴻溝。
一、從 token 到可比較的表示
文字可以先分詞成 token,再進入模型的數值計算。例如,“The quick brown fox”的示意分段為 The、quick、brown、fox;實際分詞器不一定按整詞切分。
嵌入把詞語、句子或片段表示為向量,即一組數字。原圖給出 512 維的假設:quick 對應 [0.2, -0.5, 0.8, 0.1, -0.3, …],fast 對應 [0.3, -0.4, 0.7, 0.2, -0.2, …]。在合適的同一表示空間中,相近意義可能有較高相似度。
譯註:這些數值只是示意,展示的五個維度不能證明完整向量相近。token 在語言模型內的表示,與用於文件檢索的句段嵌入不是必然相同的產物;向量檢索時計算相似度,也不等於模型正在重新學習。
因此,搜尋“quick vehicles”可能找到寫著“fast cars”的內容,不必依賴詞面完全一致。
二、關鍵詞檢索與語義檢索
比較項 | 關鍵詞檢索 | 語義檢索 |
|---|---|---|
主要依據 | 詞項、欄位、標籤及其匹配關係 | 嵌入表示與相似關係 |
示例 | 日落、發票編號 | 暖色山景、與某個問題意思相近的段落 |
優勢 | 精確編號、術語與可控匹配 | 措辭不同、概念接近的資料 |
需要注意 | 同義、上下文和表達變化 | 相關不等於正確,需要表示模型和索引評價 |
原資料用“精確匹配”概括傳統搜尋,但實際關鍵詞系統也可以有同義詞、分詞、排序等機制。兩種方法可以組合,精確編號和語義問題不必二選一。
三、嵌入為什麼像“意義指紋”
原講解用指紋作類比:內容對應數字表示,相近內容能被比較。山中日落和海灘日落地點不同,卻共享日落、暖色等概念,因此可能在適當模型中相近。
它還用“海拔”“暖色程度”解釋向量維度。這是建立直覺的簡化,真實模型中的單個維度通常不能直接命名為一個清晰屬性。
向量也不是唯一且無損的身份證明,不能用來替代原文、雜湊校驗或事實核對。相反意思可能共享很多語義特徵,例如“可以退款”與“不可退款”。
檢視圖解文字說明
向量相似性幫助找到表達相關的候選材料。圖中“可退款”和“不可退款”靠得很近,說明語義相關並不證明結論一致。仍需閱讀條件、版本和原文;實際嵌入通常具有更多維度。
看圖時要注意,相近位置表示相關,不表示兩句話可以互換。檢索到內容以後,還必須讀清否定、條件與適用範圍。
四、向量資料庫怎樣查詢
流程通常包括:提取和整理內容;使用嵌入模型形成表示;儲存向量及必要後設資料;把查詢轉成可比較表示;查詢相似項,再返回對應原始資料。
為了在大規模資料中加快查詢,系統使用索引及近似搜尋等方法。可以把它類比成按內容關係組織資料,而不僅按字母或檔名排序。
向量庫可以支援 Agent 的長期資料檢索,但不是所有記憶都必須存成向量。對話狀態、精確業務記錄、許可權與任務進度,也可能由普通資料庫或其他結構管理。儲存向量並不自動意味著系統已經學會業務或成為專家。
五、個人與組織中的例子
組織資料發現
原資料用一家諮詢機構說明:報告、案例與人員專長散落在不同部門,術語不一致,導致重複製作。語義檢索使人能夠用自然語言找相關資料與經驗,幫助共享知識。
文中“知識複用提高 50%”沒有可核對來源與測量口徑,因此只作為匿名教學案例,不是推廣到所有組織的結果。
客服知識庫
“電腦開不了機”“啟動失敗”“電源問題”可能相關,但不總是同一個故障。語義檢索可以提供候選處理辦法,幫助服務人員更快定位知識。
原案例稱平均處理時間降低 40%、首次解決率改善。沒有原始證據,不能用作自己的預期;也要檢查是否查到了適用於該裝置與版本的步驟。
會議筆記與客戶準備
原資料描述一名市場人員,需要在通話前從雜亂筆記裡尋找零售客戶挑戰。自然語言查詢可能跨不同會議找到相關內容,減少僅因用詞不同而漏掉資料。
文中從 20 分鐘到數秒的變化是示例,不是已驗證統計。它提示可以衡量準備時間、遺漏與重複工作,而不只是看搜尋結果數量。
專業文件研究
法律概念可能用多種方式表達,語義檢索可幫助找到候選案例。原文把“信義責任”與“注意義務”當作相關表達,但它們在法律中不能簡單等同;仍需專業人員檢查具體概念、法域與判決內容。
原案例“研究時間減少 60%”同樣缺少出處。檢索範圍變廣有可能有益,也可能帶來更多不適用結果。
其他用途
可以按想法尋找筆記、按概念找圖片、按內容而不是名稱找檔案;也可以用於客服知識、入職政策和跨術語研究。實際評價應檢查詢到的資料是否正確、完整、最新且允許訪問。
六、圖片與聲音怎樣進入向量空間
圖片
一張 256 × 256 的圖片有 65,536 個畫素,RGB 影象每個畫素包含三個通道值。模型可以從畫素或影象塊中學習邊緣、紋理與更復雜結構,最後產生數百或數千維的表示。
原文說影象沒有文字意義上的分詞,這有助於區分媒體;但某些視覺架構會使用影象塊或離散 token,不能概括為影象處理從不涉及 token。
聲音
原講解介紹一條常見路徑:波形表示隨時間變化的訊號;轉換成譜圖以後,一條軸是時間,一條軸是頻率,強度反映相應能量;網路再從低層頻帶、節奏,到語音單位或更抽象特徵,形成向量。
這不是所有音訊模型唯一的路徑,有些直接處理波形或使用其他表示。聲音嵌入也可能側重語音內容、說話人或聲學事件,不會自動同時包含所有意義和情緒。
七、跨模態檢索為什麼需要對齊
文字、圖片、聲音和影片都能表示成向量,但不能因為都由數字構成,就直接放在一起比較。跨模態模型需要把不同編碼器的輸出訓練或對映到相互相容的空間。
原資料以“金毛幼犬”的文字、圖片與叫聲舉例:在支援相應概念與媒體的對齊系統裡,可以跨格式找到相關資產。單憑犬叫音訊未必能可靠識別品種,這只是說明可能的檢索關係。
檢視圖解文字說明
影象和文字經分別編碼與配對訓練,使相關圖文在比較空間中接近。音訊若需按文字搜尋,也要相應的音訊文字對齊。任意不同模型即使輸出維數相同,數值也不必具有相同含義;結果仍需核驗。
圖中各媒體先經過適合的編碼器,再進入可比較空間;隨意混用不同模型向量,不能得到可靠跨模態搜尋。
應用可以包括:用文字找雲網路圖,按視覺和聲音找“有活力”的影片片段,或者圍繞歷史遺址同時找文章、圖片與相關講解。不同資料仍需許可、質量與來源檢查。
八、它與 RAG 怎樣連線
語義檢索改善資料發現的方式,有機會減少查詢時間、發現意外關聯、幫助使用組織知識。它不是“理解一切”的保證。
把相關資料找出來以後,還可以交給生成模型組織回答,這就進入下一篇 RAG 與業務知識。分詞、表示、索引、檢索和生成是不同環節,不要把它們當成一個自動完成的步驟。
影片文字稿:從找不到檔案到按意義發現
一種熟悉的困難是,尋找上個月有關客戶體驗的方案,用“客戶體驗方案”搜尋,卻得到 847 條不合適的結果。檔案實際可能叫“客戶旅程最佳化”。這不是沒有資料,而是記住的概念與資料裡的詞不同。
人會想“提出活動創意的郵件”“暑期旅行照片”或“討論新戰略的文件”,系統則經常依賴精確名稱、關鍵詞與文字。這種距離叫語義鴻溝。關鍵詞匹配不一定知道 quick 與 fast 意義相近,也不一定知道客戶體驗與客戶旅程相關。
向量嵌入提供一種連線方式。可以把它比作意義指紋:詞、句子或文件被表示為一組數字,模型學習形成的相似關係,可以幫助找到措辭不同的內容。
原講解說 quick 與 fast 會比較接近,而 slow 可能不同。要注意,相反或相關詞也可能在某種表示裡接近,不能把距離直接當成邏輯等價。指紋也只是類比,不保證唯一且無損。
文字、影象與聲音都可以有數值表示,但表示側重不同;只有經過合適訓練與對齊,才可能跨媒體比較,不是任意數字向量都能互通。
向量資料庫儲存這些表示及相關資訊。資料先計算嵌入並建立索引,搜尋時問題也形成相容表示,再尋找相近項,返回對應資料。就像幫助理解查詢方向的資料管理員,而不是隻對照原詞。
這些機制可以幫助 Agent 取回背景、對話或組織知識,讓系統在當前任務中獲得所需資料。但向量庫不是全部記憶,也不意味著模型自動從每次對話訓練或成為領域專家。
從詞面匹配擴充套件到意義發現,可以改善找資料的體驗,減少因為名稱不同而漏檢。可靠實現仍要驗證相關性、資料質量、許可權與更新,而不是僅用“AI 懂我”概括全部過程。
關聯閱讀
檢索到資料後,可透過RAG帶入回答;索引怎樣保持可靠,需回到資料管道檢查質量和更新。
參考與延伸閱讀
以下為編輯補充,不為匿名效率數字提供背書。
- Google:Embeddings:中文,查詢向量表示與相似關係。
- Faiss 官方文件:英語,瞭解向量相似檢索與索引。
- Pinecone:向量嵌入:英語,查閱嵌入、索引與應用之間的關係。