阅读目标
这一页先回顾 AI 服务,再认识自己构建算法这条路径。重点是建立一张能力地图:看到一个需求时,知道它更接近生成、检索、推荐、分类、聚类、回归,还是其他类型的任务。
正文之后是十三段配套视频的中文文字稿。它们保留了原来的讲解顺序和例子;涉及旧产品、个人经验及概念简化的地方另有译注。
这十三段之后,继续提供七份模型定制的扩展文字稿:入门、提示工程、RAG、微调、函数调用、嵌入与 MCP。本页合计二十份配套文字,第二门遇到完全相同材料时直接链接到这里的对应章节。
一、快速回顾 AI 服务
主要 AI 平台提供的能力,包括生成文字、图像、声音的生成式 AI,以及分类、聚类、推荐等工具。这些类别构成现代 AI 工具箱的基础。
无论接触 OpenAI、AWS、Microsoft Azure 还是 Hugging Face,都可能反复见到这些服务类型。先能辨认、说清它们提供什么能力,才更容易进行后续的深入比较。
二、自己构建算法
从头构建自己的 AI 算法,如今是一条相对少见但仍然重要的路径。很多团队使用现成模型和服务,但定制算法能提供更多控制权,在高度专门的需求中可能有必要。
开发工具包括 PyTorch、TensorFlow、JAX、scikit-learn;支持实验和部署的平台包括 SageMaker、Colab、Azure ML Studio。了解这条路径,是为了判断什么时候值得自行构建、为什么要这样做,以及可以使用哪些工具。
译注:这是原页对工具与路径的介绍,不是对当前产品名称、版本、价格和可用功能的逐项核验。实际选型时应再查对应官方资料。
视频文字稿一:建立 AI 服务地图
先快速回顾市场上的主要 AI 服务,例如生成式 AI、推荐引擎、计算机视觉等。接着认识提供这些工具的主要参与者,如 Amazon Web Services、Microsoft、Google、Meta、OpenAI 等。
需要学习的不只是找到工具,还包括怎样发现、评估并选择适合自己需求的工具,如何用自己的专有数据定制服务,以及为什么现在从头构建算法的情况比过去少了。
目标是形成一张较清楚的 AI 能力地图,知道怎样在其中寻找方向。
视频文字稿二:算法概览
日常说“AI”时,往往把多种数据驱动算法统称在一起。实际工具可能混合统计回归、机器学习,以及其他 AI 方法。这里先从商业上面向广泛用户的服务来看,它们在使用方式上有许多共同点。
下面依次回顾一些经常在实际产品与客户项目中遇到的算法类别。
译注:原字幕把这类算法笼统称作“强化学习算法”,这个说法不准确。后面介绍的回归、分类和聚类并不都属于强化学习。这里保留“多类数据驱动方法被统称为 AI”的意思,并明确区分概念。与知识无关的个人及雇主介绍已去除。
视频文字稿三:生成式 AI
生成式 AI 可以用于许多不同任务。它通过神经网络等机器学习模型,从既有数据中学习模式,再生成新的文字、图像或音乐。
它不是简单地逐份复制训练材料,而是根据学到的模式预测并生成输出。ChatGPT 是文字生成的例子,Stable Diffusion 是图像生成的例子。预训练 Transformer 和生成对抗网络,是这类系统中常见的模型方法。
对于边界较明确的数据集合,例如程序源代码和服务台工单,这些方法可以很有用。这也帮助解释了为什么 GitHub Copilot 较早成为大众接触的生成式 AI 产品之一。
译注:“生成新输出”并不保证内容一定原创、不会与已有材料相似,或自动拥有可使用的权利。字幕中的产品名称存在转写错误,这里按上下文还原为 GitHub Copilot。
视频文字稿四:信息检索
信息检索是把大语言模型用于具体任务的一种重要方式。典型情形是:使用者用自然语言提问,而回答需要的资料显然不在模型原来的训练数据中。
天气,尤其短期天气预报,就是一个容易理解的例子。训练大语言模型需要时间,模型的训练资料通常有截止日期,可能落后于提问时几个月,甚至几年。因此,单靠训练时保存在参数中的信息,不可能准确回答之后某一天的天气预报。
但如果一个聊天产品接入了天气查询等外部工具,就有机会回答温哥华等地区的近期天气。这不是参数突然知道了未来,而是系统能够取得外部信息。
这只是众多例子之一:通用大语言模型可以与信息检索能力组合,成为面向特定资料的问答系统。后续再进一步看它怎样连接资料。
译注:字幕说“现在去问某产品就能得到准确预报”,这是当时的示例,并不保证每个账号、模式或提问都已接入天气工具。是否实际查询、查到什么时间的数据,仍要检查。
视频文字稿五:推荐引擎
推荐引擎是给使用者建议电影、歌曲、商品等内容的程序。它根据你的过去选择,以及其他人的选择,估计你接下来可能喜欢什么。
常用方法包括协同过滤、利用用户关系的信息,以及基于内容的过滤:寻找与已有偏好相似的内容,再提出建议。
Netflix 是容易理解的例子。电子商务网站上的“购买此商品的人也购买了”或“你可能还感兴趣”,也属于相近能力在不同任务中的应用。
文字稿还提到,Netflix 在 2006 年启动推荐算法竞赛,邀请外部参与者改进其算法,大奖为一百万美元。
译注:原字幕将这项活动称为“年度竞赛”。这里保留它以奖金征集算法改进这一实质信息;“年度举办”没有在提供的材料里得到进一步支持,不据此暗示该竞赛目前仍在举行。
视频文字稿六:异常检测
异常检测先分析大量正常数据,建立对某个情境中“正常状态”的认识,再寻找偏离这种状态的现象。
这些异常可能提示欺诈、设备故障,或者人为错误。机器学习方法可以帮助快速发现不寻常的事件。银行、金融机构,以及有后台业务流程的组织,都可能使用这类能力。
异常是一条需要检查的线索,不等于已经证明发生欺诈或故障。
视频文字稿七:分类
分类算法学习把事物放进已定义的类别。训练时提供预先标记的数据,例如狗和猫的图片,模型学习怎样区分它们。以后见到训练集以外的图片时,就可以尝试根据已学到的模式预测标签。
常见方法包括决策树、支持向量机和神经网络。
早期大众产品中的人脸识别,展示了这类能力的用途。文字稿以大约 2015 年接触到的 Facebook 照片识别,以及当时 Microsoft Cognitive Services 通过 REST API 提供物体检测服务为例。
现在,物体识别已经出现在许多产品里。比如照片服务可以让人根据画面中的物体搜索照片,而不是只依靠文件名。如果手机照片已经同步到相应服务,就可能在大量图片里快速找出某类对象。
这类服务展示了模型如何帮助用户从庞大图片库中查找内容,也是这里关注的商业能力之一。
译注:这里保留的是讲解中的历史产品例子,去掉了个人体验和经历署名。分类与物体检测有关联,但不是同一个任务:检测通常还需要定位对象。系统会犯错,也不能把“任何物体都容易识别”当成可靠结论。
视频文字稿八:聚类
聚类会观察一批数据,按照对象之间的相似程度,把它们放进不同组。关键是,系统事先没有拿到每个对象所属类别的标准标签,而是尝试自己找出结构。
不同算法对组数和分组方式的要求不同。有的需要事先指定组数,有的会根据数据和参数形成分组。
文字稿重点介绍 K-means,认为它相对简单、效率较高,是商业场景中常见的方法,并建议初学者先关注它。
译注:原字幕说聚类“不用训练集,只是一个算法”,容易误解。聚类仍然需要输入数据,许多方法也要拟合;它通常缺少的是监督学习中的标准标签。原字幕还以个人见闻建议忽略其他方法,不能当成全面选型建议。K-means 之外也有其他聚类方法,是否适合要看数据、相似性定义和分组目标。
视频文字稿九:回归
回归学习根据已有属性与历史信息预测一个数值。可以用房价说明:观察房屋面积怎样与价格相关,找出模式,再根据面积预测价格。
把这种关系写成公式,就得到一个可以计算预测值的模型。文字稿提到两种常见形式:线性回归,以及在曲线拟合等任务中出现的多项式回归。
重点是它预测的是数值,而不是给数据分配类别。
查看图解文字说明
分类回答样本属于哪一类,可使用分数与阈值决定类别;回归预测一个连续数值。两个图用不同的输出形式作比较,选择方法还需要考虑误报、漏报或数值误差的代价。
视频文字稿十:计算机视觉
计算机视觉让系统处理、解释图像与视频。可以类比眼睛接收画面、再由大脑处理,但这个比喻不代表模型真的以人的方式观看。
系统能够识别人脸、动物、物体,也能读取标志。它通过机器学习与相应模型寻找视觉模式。
自动驾驶是一个例子:车上的摄像头观察周围道路,系统分析图像,检测交通灯、停车标志、车辆和行人。文字稿以车辆周围的全景观察帮助说明这个过程。
其他常见用途包括人脸解锁、X 光影像分析、监控摄像头、能够移动并感知环境的机器人,以及体育直播中的视觉分析。
译注:具体车辆的传感器、覆盖范围和安全能力取决于实际系统,不能从这个概念例子推断任何产品已经可靠实现全部能力。个人是否从事该领域的介绍已去除。
视频文字稿十一:自然语言处理
自然语言处理,简称 NLP,研究计算机如何处理人的语言交流,包括说、读、写等活动。Siri、Alexa 等助手是容易接触到的例子。
这一领域涉及广泛的研究方向,相关工作远早于成熟商业服务。文字稿回顾了 20 世纪 70 至 80 年代的研究,以及大约 1991 年出现的 Dragon Dictate 语音听写产品。它把早期产品描述为价格昂贵、错误较多,并提到后来相关企业被收购。
译注:原字幕对早期授权价格给出约一万二至一万四千美元的口述估计,又猜测它与今天办公软件的关系,没有提供支持资料。这里保留这些信息的历史与不确定性质,不把口述价格或产品关系视为已核实事实。
NLP 不只涉及声音,也包括文字预处理。一个例子是在用户界面与大语言模型之间增加处理层,对提示词先做质量检查,再交给模型。
Python 的 Levenshtein 相关库可以用于比较字符串差异,例如查找常见拼写偏差。在有明确规则的情况下,系统可以先修正常见错误,再将输入发给模型,希望改善结果。
Signal、WhatsApp、Microsoft Word 等应用里的语言相关功能,也可以帮助理解这个领域覆盖面很广。
译注:编辑距离只衡量字符串差异,不能单独承担完整语法理解或事实核验;是否自动改写用户输入,也要避免改掉原意。字幕中的库名按语境规范为 Levenshtein。
视频文字稿十二:强化学习
强化学习通过尝试行动、接收反馈来学习。行动带来较好的结果时获得奖励,较差结果则可能得到较低奖励或惩罚。这有点像用反馈训练动物完成动作,但只是帮助理解的类比。
系统逐渐学习哪些行动更可能带来较高回报,并据此改善选择。游戏、机器人、自动驾驶研究,以及某些推荐系统,都可能用到这种方法。
原讲解说明这一段是概念介绍,而不是该领域的个人实施经验;这里不保留个人经历署名。
译注:奖励是人为或系统定义的信号,不一定等于真正希望实现的长期目标。也不是所有游戏、驾驶或推荐系统都采用强化学习。
视频文字稿十三:回顾与时间背景
刚才涉及的内容很多。有一个时间背景需要记住:这段文字稿录制于 2025 年第二季度。所介绍的服务和算法应用,尤其生成式 AI,当时都处于快速变化之中。
大量资金和研究投入使这个领域持续变化。过一年或几年,服务形态可能已经不同。
因此,如果准备在实际项目里使用这些服务,就要把技术更新考虑进去,不能只根据录制当时的介绍决定长期方案。
接下来的系统阅读会继续讨论数据基础与隐私。服务能做什么是一部分,能够取得什么数据、如何使用、如何验证,同样决定实际效果。
扩展文字稿一:把 AI 接到自己的业务
前面讨论的是开箱即用的能力。接下来转向怎样结合自己的资料、语气与规则,定制 AI 系统。提示工程、检索增强、微调、嵌入和函数调用,都是可以使用的方式。让系统更贴近业务,需要理解这些方式分别改变什么。
扩展文字稿二:提示工程
提示是告诉 AI 你想做什么的方式,但不只是提出一个问题。可以把它组织成有结构、有目的的信息,包括指令、问题、背景、理想回答的例子,以及不应越过的边界。
许多聊天接口使用不同角色。系统角色规定总体行为,例如“你是一名有帮助的助手”;把角色描述改成某个专业领域,可能改变回答风格,但不能因此赋予系统真正的专业资格或保证准确。
用户角色是人通过应用提出的请求。助手角色则用于表示已有的模型回复。持续对话之所以能够引用前文,是因为应用管理和传递相关历史;不能把界面的连续对话感,直接当成模型自动保存了全部记忆。
译注:原讲解说“助手角色用来序列化全部历史”,需要更精确地区分:历史通常包含用户、助手和工具等多种消息;应用可能重新发送、压缩或通过状态机制管理它们。模型参数记忆、当前上下文和应用的长期记忆,也不是同一个机制。
同一个模型会因提示组织不同而给出不同结果。“天气如何?”与“你是一名开朗的旅行规划助手;巴黎这个周末天气怎样,建议带什么衣服?”在背景、任务、语气和输出需求上都不同。查询当前天气仍须取得实际天气资料,不能单凭角色描述获得实时事实。
写提示时,明确角色和格式,提供期望示例,设置边界,例如只根据下方资料回答,再根据结果不断调整。有效提示往往清楚、简单、一致,并围绕具体目标设计。
也可以把多个提示串联、传递变量、保存模板。提示工程既需要设计,也需要通过实际输出验证。
扩展文字稿三:RAG,让回答前先找到资料
RAG 是检索增强生成。如果希望 AI 回答前先查看内部文件或知识库,就可以考虑这种方式。
语言模型一次能够处理的上下文有限,输入越多也可能增加费用。指令、问题和对话历史都会占用上下文;对话增长时,不应只计算用户刚输入的几个字。
译注:原讲解把常见窗口说成约 4,000 token,并近似成 4,000 个词,反映较早背景且不准确。模型的窗口差异很大,token 也不等于词。具体容量和计费应查询实际模型;把整个资料库都放入一次输入,仍可能因长度、成本和噪声而不合适。
RAG 通常先整理文档、表格或常见问题,切成适当片段并建立索引。使用向量检索时,嵌入模型把片段表示为向量,向量数据库保存并支持查询。用户提问后,应用先查找相关片段,再把问题与选出的片段一起提供给生成模型。
查看图解文字说明
资料准备路径包括整理分块、保留版本权限元数据和建立索引。问答路径从问题与查询者权限开始,检索当前可用的片段,交给模型组织回答,再核验事实与引用。找不到证据、选错版本和生成失真属于不同问题。
图中上方是提前整理与索引资料,下方是提问时检索和回答。重点在于给出相关依据,不是每次发送全部资料。
原讲解强调这种方式的效率、用量控制与更新便利:只传必要内容,资料变化时更新索引,不一定需要重新训练。客服可查找重置密码步骤;销售可查询最新数量折扣;合规问题可定位资料保留政策的段落。
译注:RAG 不自动保证更快、更便宜、更私密或回答正确。检索片段仍可能发送到模型服务商;必须管理权限、日志、更新和引用。它也不是让模型“学会”新事实,而是由应用在当前请求中提供依据。需要比较端到端时延、质量和费用。
不要只是把资料堆给模型,而要设计检索、来源与检查流程,使业务资料能够按需被使用。
扩展文字稿四:微调
如果提示与资料检索仍不能满足任务,可以考虑微调:以预训练模型为基础,使用自己的示例继续训练,改变其某些行为模式,例如词汇、语气、格式与任务响应方式。
法务团队可能希望文书更接近内部格式,医疗相关系统可能需要处理特定编码,软件团队可能希望文档遵守内部风格。这些都是定制目标,不代表训练后必然像领域专家一样可靠。
原讲解说“结果恰好符合预期”,应理解为目标,不能当作保证。微调仍可能幻觉或出错,也不适合取代持续更新的事实库。
它较适合拥有大量结构化、高质量示例,需要更稳定行为或特定输出方式的情境。它通常增加技术、评价与维护投入,因此应先确认是否确实需要。
微调、提示与 RAG 可以组合:用示例调整行为,用提示说明当前任务,再通过检索提供最新资料。三者改变的层面不同。
查看图解文字说明
提示与示例组织当前任务输入;RAG 为这次输入补充外部证据,通常不改变模型参数;微调在训练阶段使用样例调整参数,之后用新版本执行推理。事实、行为和格式缺口应分别诊断。
扩展文字稿五:函数调用与工具调用
函数调用把对话与实际业务能力连接起来。例如,询问本月按产品线划分的收入,不应让模型凭空猜数字,而可以查询报表接口,再根据实际返回内容回答。
开发者先定义可调用功能,例如查询天气、客户详情、邮费,或者按月份和地区查询销售。模型并不自己执行这些代码;它根据提供的工具说明,生成包含函数名称与参数的调用请求。应用检查并执行,再把结果传回,模型据此组织回答。
原演示用旅行问题说明中间过程:用户说“这周可能去温哥华,应该带什么?”系统提供了日期时间,以及可用天气函数的说明。模型识别到问题需要天气,提出以温哥华为地点的请求;应用取得未来天气数据,再交给模型,回答才结合温度和降雨提出外套、鞋与雨伞等建议。
译注:原示例函数名称写作“当前天气”,返回却包含未来 24 小时预报。如果用户问一周行程,应检查返回时间范围是否覆盖需求。模型补全地点也可能选错,应用需要验证,不能把推断参数直接当作事实。
工具调用是多步过程,可能包括不止一次模型请求,因此费用也要计算中间调用、上下文和重试,不能只看最后答案的长度。
连接内部数据库、排程、分析或 ERP 以后,系统可以成为业务逻辑的对话入口。它还可以配合多步提示和结构化输出,在执行前追问缺少条件。
查看图解文字说明
应用负责接收模型建议,检查用户授权、参数与业务规则,再执行工具。未通过的请求停止或请求澄清。真实执行结果要回传并核验;写操作还需要防重复和可恢复设计。
模型提出调用,应用负责权限、参数与实际执行,最后检查返回状态。尤其是修改资料、付款或发出消息等操作,需要与后果相称的边界;生成“已完成”的文字不是执行成功的证据。
扩展文字稿六:嵌入与可查询的表示
如果把 RAG 比作查找资料的策略,嵌入可以看成帮助确定查找方向的地图。它把内容表示为向量,也就是一组数字,使语义关系可以被计算和比较。
原文以 PDF 和 CSV 为例。实际通常需要先提取内容、按任务切分,再使用嵌入模型计算向量并写入合适索引,而不是把任何二进制文件原样交给同一个文字接口。
提问时,系统在已有表示中查找语义相关片段,不必要求每个词完全一致。例如,“寻找入职相关资料”可以找到不同措辞的文档。
嵌入还可用于聚类、推荐、近似或重复内容检测。原讲解把它形容成“向量指纹”,这是帮助理解的比喻;它不是保证唯一、不可逆或可作密码学验证的指纹。
它不替代训练或微调,而提供另一种组织和查询资料的能力。使用时要确保查询与资料的表示可比较,持续处理权限、版本、删除与检索评价。得到向量,只是搭建可靠搜索流程的一步,不表示已经能解决所有查询。
扩展文字稿七:MCP 在连接中扮演什么角色
原讲解介绍模型上下文协议(Model Context Protocol,MCP),用“胶水”或“信封”的比喻,说明如何组织并向 AI 应用提供工具、资料与提示。它还举出销售、支持、人力或程序分析等不同角色,强调上下文应清楚、可复用,并指向公开协议资料。
译注:原文把 MCP 近似成给模型发送角色、规则和记忆的统一提示封装,这不是协议的准确技术定义。MCP 更具体地规定客户端与服务端怎样交换能力,使宿主应用可以发现和使用工具、资源与提示;它不会自动创建模型记忆,也不保证输出安全或可预测。
查看图解文字说明
宿主是 AI 应用,负责管理模型使用方式和多个客户端。图中客户端 A 连接资料服务端,客户端 B 连接工单服务端;服务端可以暴露工具、资源或提示。连接方式统一不表示访问范围、事实与执行安全自动得到保障。
图中宿主管理客户端,每个客户端连接相应服务端。服务端暴露限定能力,宿主仍负责决定把什么提供给模型,以及怎样执行权限和确认边界。
可以从 MCP 官方文档继续查询协议与组件。它与提示、RAG、嵌入及工具调用可以配合,但不能把这些概念混成同一件事。
关联阅读
比较现成服务时,可以继续看供应链与选型条件;需要理解检索如何进入回答,则可对照RAG 与业务知识。
参考与延伸阅读
以下为编辑补充的查询与学习入口,可按需要继续阅读。
- scikit-learn 官方用户指南(英文/技术文档):按任务查询分类、回归、聚类、异常检测与模型评估。
- Google:定义模型目标、输出与成功指标(中文):把期望的业务结果、模型输出和衡量标准对应起来。
- Google:推荐系统概览(中文):理解为什么需要推荐,以及推荐系统怎样帮助用户发现内容。