AI 基础 2:业务流程 / 中文译文

向量数据库与语义搜索:按意义寻找资料

解释向量数据库怎样保存嵌入并支持语义搜索,沿分块、编码、相似性检索与更新理解按意义找资料的能力和限制。

语义检索1 份配套文字稿开始阅读 ↓
正在准备中文语音…
音色与朗读设置

音色由浏览器和设备提供,可试听选择。AI、API 等常见英文缩写按字母朗读,字母之间稍作停顿;设备有英语音色时自动使用。暂停后从当前句继续;进度只保存在此浏览器。图解会读出文字说明,表格按行朗读。切换应用或锁屏后,部分设备会暂停。

也可以选中正文,直接追问那一段。

围绕当前文章

把不理解的地方问清楚。

普通搜索

回答附有原文章节依据,可继续追问,也可以进入完整讲解。

关于回答、隐私和使用额度

回答由 AI 根据本站已发布资料整理,可能有误,请结合原文核对。问题、选段与最近几轮对话会发送给 Cloudflare 的模型服务处理,请勿提交私人或保密资料。本站数据库不保存问题与对话正文;清空或刷新页面会结束本页对话。

问答使用有限额度:同一访问网络每天最多 10 次生成,全站每天最多 100 次;也可能因服务额度或繁忙暂时不可用。届时仍可查阅原文和普通搜索。额度按 UTC 日期重置。为限制滥用,临时保存按日加盐的访问网络摘要与计数,保留约两天并定期清理。

阅读目标与导言

本页为中文译文。我们将认识语义鸿沟、向量嵌入和向量数据库,理解按意义检索怎样工作,观察个人与组织的应用,以及它与 RAG 的关系。

设想有人问起“上个月讨论的客户体验方案”。你记得内容,却用这几个词搜出 847 条不合适结果,因为文件实际叫“客户旅程优化”。这是原资料设计的示例:人记住概念,文件里出现的词却可能不同。

人还会说“提出活动点子的邮件”或“海滩日落的照片”,系统则常依赖名称、日期、类型与标签。这种人理解意义的方式与资料组织之间的差距,称为语义鸿沟。

一、从 token 到可比较的表示

文字可以先分词成 token,再进入模型的数值计算。例如,“The quick brown fox”的示意分段为 The、quick、brown、fox;实际分词器不一定按整词切分。

嵌入把词语、句子或片段表示为向量,即一组数字。原图给出 512 维的假设:quick 对应 [0.2, -0.5, 0.8, 0.1, -0.3, …],fast 对应 [0.3, -0.4, 0.7, 0.2, -0.2, …]。在合适的同一表示空间中,相近意义可能有较高相似度。

译注:这些数值只是示意,展示的五个维度不能证明完整向量相近。token 在语言模型内的表示,与用于文档检索的句段嵌入不是必然相同的产物;向量检索时计算相似度,也不等于模型正在重新学习。

因此,搜索“quick vehicles”可能找到写着“fast cars”的内容,不必依赖词面完全一致。

二、关键词检索与语义检索

比较项

关键词检索

语义检索

主要依据

词项、字段、标签及其匹配关系

嵌入表示与相似关系

示例

日落、发票编号

暖色山景、与某个问题意思相近的段落

优势

精确编号、术语与可控匹配

措辞不同、概念接近的资料

需要注意

同义、上下文和表达变化

相关不等于正确,需要表示模型和索引评价

原资料用“精确匹配”概括传统搜索,但实际关键词系统也可以有同义词、分词、排序等机制。两种方法可以组合,精确编号和语义问题不必二选一。

三、嵌入为什么像“意义指纹”

原讲解用指纹作类比:内容对应数字表示,相近内容能被比较。山中日落和海滩日落地点不同,却共享日落、暖色等概念,因此可能在适当模型中相近。

它还用“海拔”“暖色程度”解释向量维度。这是建立直觉的简化,真实模型中的单个维度通常不能直接命名为一个清晰属性。

向量也不是唯一且无损的身份证明,不能用来替代原文、哈希校验或事实核对。相反意思可能共享很多语义特征,例如“可以退款”与“不可退款”。

二维语义示意中,退货问题靠近两个退款说法;其中“可退款”和“不可退款”彼此接近却结论相反。
距离接近,不等于事实相同辅助图解(自制):二维位置为人为构造,不是实际嵌入模型的向量或投影。放大查看图解 ↗
查看图解文字说明

向量相似性帮助找到表达相关的候选材料。图中“可退款”和“不可退款”靠得很近,说明语义相关并不证明结论一致。仍需阅读条件、版本和原文;实际嵌入通常具有更多维度。

看图时要注意,相近位置表示相关,不表示两句话可以互换。检索到内容以后,还必须读清否定、条件与适用范围。

四、向量数据库怎样查询

流程通常包括:提取和整理内容;使用嵌入模型形成表示;保存向量及必要元数据;把查询转成可比较表示;查找相似项,再返回对应原始资料。

为了在大规模资料中加快查询,系统使用索引及近似搜索等方法。可以把它类比成按内容关系组织资料,而不仅按字母或文件名排序。

向量库可以支持 Agent 的长期资料检索,但不是所有记忆都必须存成向量。对话状态、精确业务记录、权限与任务进度,也可能由普通数据库或其他结构管理。存储向量并不自动意味着系统已经学会业务或成为专家。

五、个人与组织中的例子

组织资料发现

原资料用一家咨询机构说明:报告、案例与人员专长散落在不同部门,术语不一致,导致重复制作。语义检索使人能够用自然语言找相关资料与经验,帮助共享知识。

文中“知识复用提高 50%”没有可核对来源与测量口径,因此只作为匿名教学案例,不是推广到所有组织的结果。

客服知识库

“电脑开不了机”“启动失败”“电源问题”可能相关,但不总是同一个故障。语义检索可以提供候选处理办法,帮助服务人员更快定位知识。

原案例称平均处理时间降低 40%、首次解决率改善。没有原始证据,不能用作自己的预期;也要检查是否查到了适用于该设备与版本的步骤。

会议笔记与客户准备

原资料描述一名市场人员,需要在通话前从杂乱笔记里寻找零售客户挑战。自然语言查询可能跨不同会议找到相关内容,减少仅因用词不同而漏掉资料。

文中从 20 分钟到数秒的变化是示例,不是已验证统计。它提示可以衡量准备时间、遗漏与重复工作,而不只是看搜索结果数量。

专业文档研究

法律概念可能用多种方式表达,语义检索可帮助找到候选案例。原文把“信义责任”与“注意义务”当作相关表达,但它们在法律中不能简单等同;仍需专业人员检查具体概念、法域与判决内容。

原案例“研究时间减少 60%”同样缺少出处。检索范围变广有可能有益,也可能带来更多不适用结果。

其他用途

可以按想法寻找笔记、按概念找图片、按内容而不是名称找文件;也可以用于客服知识、入职政策和跨术语研究。实际评价应检查找到的资料是否正确、完整、最新且允许访问。

六、图片与声音怎样进入向量空间

图片

一张 256 × 256 的图片有 65,536 个像素,RGB 图像每个像素包含三个通道值。模型可以从像素或图像块中学习边缘、纹理与更复杂结构,最后产生数百或数千维的表示。

原文说图像没有文字意义上的分词,这有助于区分媒体;但某些视觉架构会使用图像块或离散 token,不能概括为图像处理从不涉及 token。

声音

原讲解介绍一条常见路径:波形表示随时间变化的信号;转换成谱图以后,一条轴是时间,一条轴是频率,强度反映相应能量;网络再从低层频带、节奏,到语音单位或更抽象特征,形成向量。

这不是所有音频模型唯一的路径,有些直接处理波形或使用其他表示。声音嵌入也可能侧重语音内容、说话人或声学事件,不会自动同时包含所有意义和情绪。

七、跨模态检索为什么需要对齐

文字、图片、声音和视频都能表示成向量,但不能因为都由数字构成,就直接放在一起比较。跨模态模型需要把不同编码器的输出训练或映射到相互兼容的空间。

原资料以“金毛幼犬”的文字、图片与叫声举例:在支持相应概念与媒体的对齐系统里,可以跨格式找到相关资产。单凭犬叫音频未必能可靠识别品种,这只是说明可能的检索关系。

图像与文字分别经过相互对齐的编码器进入可比较空间;音频需要适用的编码与对齐,不能混用任意向量。
跨模态比较需要经过对齐辅助图解(自制):图中距离仅用于表达机制,不是实际向量或实验结果。放大查看图解 ↗
查看图解文字说明

图像和文本经分别编码与配对训练,使相关图文在比较空间中接近。音频若需按文本搜索,也要相应的音频文本对齐。任意不同模型即使输出维数相同,数值也不必具有相同含义;结果仍需核验。

图中各媒体先经过适合的编码器,再进入可比较空间;随意混用不同模型向量,不能得到可靠跨模态搜索。

应用可以包括:用文字找云网络图,按视觉和声音找“有活力”的视频片段,或者围绕历史遗址同时找文章、图片与相关讲解。不同资料仍需许可、质量与来源检查。

八、它与 RAG 怎样连接

语义检索改善资料发现的方式,有机会减少查询时间、发现意外关联、帮助使用组织知识。它不是“理解一切”的保证。

把相关资料找出来以后,还可以交给生成模型组织回答,这就进入下一篇 RAG 与业务知识。分词、表示、索引、检索和生成是不同环节,不要把它们当成一个自动完成的步骤。

视频文字稿:从找不到文件到按意义发现

一种熟悉的困难是,寻找上个月有关客户体验的方案,用“客户体验方案”搜索,却得到 847 条不合适的结果。文件实际可能叫“客户旅程优化”。这不是没有资料,而是记住的概念与资料里的词不同。

人会想“提出活动创意的邮件”“暑期旅行照片”或“讨论新战略的文档”,系统则经常依赖精确名称、关键词与文本。这种距离叫语义鸿沟。关键词匹配不一定知道 quick 与 fast 意义相近,也不一定知道客户体验与客户旅程相关。

向量嵌入提供一种连接方式。可以把它比作意义指纹:词、句子或文档被表示为一组数字,模型学习形成的相似关系,可以帮助找到措辞不同的内容。

原讲解说 quick 与 fast 会比较接近,而 slow 可能不同。要注意,相反或相关词也可能在某种表示里接近,不能把距离直接当成逻辑等价。指纹也只是类比,不保证唯一且无损。

文字、图像与声音都可以有数值表示,但表示侧重不同;只有经过合适训练与对齐,才可能跨媒体比较,不是任意数字向量都能互通。

向量数据库保存这些表示及相关信息。资料先计算嵌入并建立索引,搜索时问题也形成兼容表示,再寻找相近项,返回对应资料。就像帮助理解查询方向的资料管理员,而不是只对照原词。

这些机制可以帮助 Agent 取回背景、对话或组织知识,让系统在当前任务中获得所需资料。但向量库不是全部记忆,也不意味着模型自动从每次对话训练或成为领域专家。

从词面匹配扩展到意义发现,可以改善找资料的体验,减少因为名称不同而漏检。可靠实现仍要验证相关性、资料质量、权限与更新,而不是仅用“AI 懂我”概括全部过程。

关联阅读

检索到资料后,可通过RAG带入回答;索引怎样保持可靠,需回到数据管道检查质量和更新。

参考与延伸阅读

以下为编辑补充,不为匿名效率数字提供背书。

回到AI 基础 2:业务流程查看完整阅读顺序,或搜索概念与段落。