Embedding出现前的难题
Embedding出现前的难题
- 1、机器学习模型只懂数字、看不懂文字
- 2、Embedding之前的解决方案：编码+共现矩阵计数的高频词匹配
- 3、两大顽疾
- 1）语义鸿沟：文字不相关但语义一致的检索不出（遇到困难VS面临挑战）
- 2）文字相近但语义不一致的可能被误检索（我喜欢你VS你喜欢我）
- 4、维度灾难：内容越多，矩阵维度越高，计算难度越大
RAG技术从原理到实战全解析
面向算法工程师、AI应用开发者、架构师和知识库项目技术管理者，学习Embedding与Rerank原理、模型评价、检索流程与代码调用，练习结合业务测试集选择和评估RAG方案
授课讲师：
张永智 · AI应用与软件研发培训讲师
课程大纲
Embedding是怎么解决这类问题的
Embedding是怎么解决这类问题的
- 1、动物分类案例：从特征维度评价事物相近度
- 1）以"饮食结构""生活环境"两个维度数字化定义动物属性
- 2）向量空间中的坐标距离：熊与狮子最近的直观解释
- 2、Embedding的核心原理
- 1）把事物特征固定在有限维度（256/384/768/1024），简化计算难度
- 2）各维度分值由大量训练学习得来，对比分值即可判断相近程度
Embedding基础技术原理：词向量三代演进
Embedding基础技术原理：词向量三代演进
- 1、NNLM神经网络语言模型时代：词向量的诞生
- 1）从内容预测说起：Bengio 2003年三层神经网络语言模型（n-gram）
- 2）词列表与one-hot独热向量表示
- 3）词向量矩阵相乘、上下文向量拼接、隐藏层计算与预测概率分布
- 4）损失函数与反向传播的闭环训练更新，训练副产物即词向量（Embedding）
- 2、Word2Vec时代：静态Embedding
- 1）CBOW模型：词向量直接求和（求平均）+预测概率分布
- 2）哈夫曼树减少预测次数、负采样优化降低计算复杂度
- 3）训练完成后词向量不再改变——"静态Embedding时代"
- 3、BERT时代：动态Embedding
- 1）BERT输入表示由位置、片段和词元嵌入相加，再经编码器形成上下文表示
- 2）同一单词在不同上下文中向量动态变化
常见Embedding模型与评价维度
常见Embedding模型与评价维度
- 1、MTEB评价与历史模型示例（piccolo-large-zh-v2、gte-Qwen1.5-7B-instruct、acge_text_embedding、Baichuan-text-embedding、bge-large-zh-v1.5等）
- 2、Embedding模型好坏的评价维度
- 1）最大支持输入长度：单次能向量化处理的文本长度
- 2）向量维度：结合任务效果、存储和计算成本选取，不以维度高低直接判断准确性
- 3）选讲六类任务评价（MTEB原始基准包含八类任务，按所用版本核对）
- （1）Classification：分类任务
- （2）Clustering：聚类任务
- （3）Pair Classification：句子对分类
- （4）STS：语义文本相似度
- （5）Retrieval：检索任务，以nDCG@10为主要度量依据
- （6）Reranking：重排序任务
Embedding代码调用demo与应用场景
Embedding代码调用demo与应用场景
- 1、千帆大模型平台Embedding模型代码调用演示（按授课时平台可用模型与接口核对）
- 2、NLP类语言模型中的Embedding
- 1）NLP任务六步基本流程：文本预处理→词元化→构造输入→特征表征→神经网络计算→结果输出
- 2）Embedding的核心作用：把Token变成计算机"认识"的数字
- 3、RAG知识库增强检索场景中的Embedding
- 1）大语言模型两大硬伤：垂直/私密语料缺失、输入长度受限
- 2）两步搜索解决方案：本地文本库检索+检索结果输入大模型
- 3）超长PDF分块向量化入库，按问题Embedding相似度检索内容块
Rerank模型：由来、价值与基础原理
Rerank模型：由来、价值与基础原理
- 1、什么是Rerank：在搜索、广告推荐及RAG中的二次排序机制
- 2、Rerank在RAG流程中的位置：检索后的"智能过滤器"
- 3、何时使用Rerank：比较检索效果、时延和计算成本
- 1）精度提升：细化过滤冗余或不相关的召回结果
- 2）个性化调整：按用户偏好与场景需求定制排序
- 3）计算成本：在候选集合上精排仍增加计算与时延，需权衡后续输入量
- 4）灵活性：不同任务可灵活选择Rerank模型
- 4、Rerank基础原理
- 1）Embedding召回：query与doc chunk双向独立向量化后计算相似度
- 2）Rerank精排：query与doc chunk拼接后交叉编码（cross encoder）做相关性分类
- 3）对比与分工：Rerank可能改善排序但增加时间成本，需测试验证，先Embedding粗召回再Rerank精排
Rerank模型评价与代码调用demo
Rerank模型评价与代码调用demo
- 1、Rerank模型好坏的两大指标
- 1）命中率（Hit Rate）：正确答案是否在排序后topN里
- 2）平均倒数排名（MRR）：对各查询首个相关结果排名的倒数取平均
- 3）对照实验：在业务测试集上比较重排前后的命中率、MRR和时延
- 2、千帆大模型平台Rerank模型代码调用演示（按授课时平台可用模型与接口核对）
适合对象
算法工程师、AI应用开发人员、技术架构师及知识库项目技术管理人员
课程定位与主要问题
面向算法工程师、AI应用开发者、架构师和知识库项目技术管理者，学习Embedding与Rerank原理、模型评价、检索流程与代码调用，练习结合业务测试集选择和评估RAG方案
课程适配与选型边界
面向算法工程师、AI应用开发者、架构师和知识库项目技术管理者，学习Embedding与Rerank原理、模型评价、检索流程与代码调用，练习结合业务测试集选择和评估RAG方案
算法工程师、AI应用开发人员、技术架构师及知识库项目技术管理人员
面向算法工程师、AI应用开发者、架构师和知识库项目技术管理者，学习Embedding与Rerank原理、模型评价、检索流程与代码调用，练习结合业务测试集选择和评估RAG方案
0.5天。专题讲授、工程案例讨论、工具演示与实践练习
面向AI开发人员的Embedding、Rerank原理及调用练习，聚焦RAG检索与重排技术
核心收益
- 理解向量表示、词向量演进与语义检索的基本原理
- 比较Embedding召回与交叉编码重排的分工及成本
- 学习输入长度、任务能力、命中率和MRR等评价方法
- 练习平台模型调用和基于业务测试集的RAG方案评估
课程背景与交付信息
课程安排：0.5天（6小时/天）
半天授课，原稿按每天6小时计；模型名单作为案例，平台接口、评价基准与模型可用性按授课时核对。检索和重排需用业务数据评测
课程时间
0.5天
授课方式
专题讲授、工程案例讨论、工具演示与实践练习
课程内容重点
01Embedding出现前的难题
02Embedding是怎么解决这类问题的
03Embedding基础技术原理：词向量三代演进
04常见Embedding模型与评价维度
05Embedding代码调用demo与应用场景
06Rerank模型：由来、价值与基础原理
07Rerank模型评价与代码调用demo
讲师介绍
张永智
AI应用与软件研发培训讲师
张永智的课程聚焦AI应用与智能体开发、Harness工程、RAG检索增强、软件设计和研发工作方法，面向研发工程师、架构师、技术负责人及需要使用AI工具的业务人员，结合工程案例、工具演示与实践练习开展教学
查看讲师主页课程差异说明
面向AI开发人员的Embedding、Rerank原理及调用练习，聚焦RAG检索与重排技术
课程常见问题
这门课适合哪些岗位？
算法工程师、AI应用开发人员、技术架构师及知识库项目技术管理人员。
课程主要训练哪些内容？
Embedding出现前的难题；Embedding是怎么解决这类问题的；Embedding基础技术原理：词向量三代演进
课堂会练习哪些能力？
理解向量表示、词向量演进与语义检索的基本原理；比较Embedding召回与交叉编码重排的分工及成本；学习输入长度、任务能力、命中率和MRR等评价方法
课程的时长和授课形式是什么？
0.5天。专题讲授、工程案例讨论、工具演示与实践练习
这门课的训练侧重是什么？
面向AI开发人员的Embedding、Rerank原理及调用练习，聚焦RAG检索与重排技术
