Embedding 是什么
Embedding(嵌入)是一种表示学习技术,将文本、图像或其他数据映射为固定长度的数值向量。这些向量捕捉了原始数据的语义特征——含义相近的内容在向量空间中的距离更近,含义不同的内容距离更远。
以文本嵌入为例:通过嵌入模型处理后,”如何部署应用”和”应用上线步骤”会生成非常接近的向量,而”今天天气如何”则会生成一个距离较远的向量。这种特性使得计算机可以基于向量距离来理解语义相似度。
Embedding 的实际应用
嵌入技术是多种AI应用的底层基础设施:
- 语义搜索:将用户查询和文档库都转化为向量,通过向量相似度匹配取代传统的关键词匹配,显著提升搜索相关性。
- RAG 检索环节:知识库文档分段后生成嵌入向量存入向量数据库,查询时通过向量检索召回最相关的文档片段。
- 文本分类与聚类:利用嵌入向量的空间分布对文本进行自动分类或主题聚类。
- 推荐系统:计算用户行为嵌入与内容嵌入的相似度,生成个性化推荐。
常见误区
- 嵌入模型不是通用的:不同嵌入模型生成的向量维度和语义空间不同,索引和查询必须使用同一模型,不同模型生成的向量不可混用。
- 向量维度越高不等于效果越好:高维度增加存储和计算成本,选择维度应在检索质量和性能之间取平衡。
- 嵌入不理解逻辑关系:嵌入捕捉的是语义相似度,而非逻辑蕴含关系——”猫追狗”和”狗追猫”的嵌入可能非常接近,但含义完全不同。