嵌入与重排序模型:知识库的前置配置
搭知识库之前必须把两类非对话模型配好,否则第一步就会卡住。这一页把分工和填法一次说清,具体建库操作在搭建知识库。
三个模型的分工
内置知识库(4.5.0 起)的工作流涉及三类模型,角色完全不同:
| 模型 | 是否必需 | 干什么 |
|---|---|---|
| 对话模型 | 回答时必需 | 阅读检索结果,组织成自然语言回答 |
| 嵌入模型(Embedding) | 建库时必需 | 把资料和问题变成向量,用于语义查找 |
| 重排序模型(Rerank) | 可选 | 对候选片段重新打分,把最相关的排前面 |
一句话串起来:嵌入模型负责「找得到」,重排序负责「排得准」,对话模型负责「说得好」。
配置嵌入模型
- 面板「模型提供商」→ 切到「嵌入」标签 →「新增」
- 选提供商:支持 OpenAI 兼容服务、Google Gemini、Ollama、阿里云百炼、NVIDIA 等
- 填 API 地址、API Key、模型名称和向量维度
- 保存并确认可用
以 OpenAI Embedding 类型为例:地址填服务的基础地址,模型名称填嵌入模型而不是对话模型——这是最常见的填错项。
向量维度必须与模型实际输出一致。维度是向量的长度属性,不同模型、不同维度之间向量不可混用。不确定就查服务商的模型说明页。
配置重排序模型(可选)
「模型提供商」→「重排序」→ 新增对应服务并保存。没有重排序模型也能建库用库,它只是检索质量的增强项。资料敏感的话注意:使用远程嵌入服务时,待索引文本和检索问题会发送给该服务商。
可选的托管示例
以硅基流动为例(官方文档给出过的例子):控制台申请 Key,新增 OpenAI Embedding 提供商,地址填其 API 基础地址,模型选平台在提供的嵌入型号(如 BGE 系列的多语向量模型),维度按模型说明填。具体可用模型与免费额度以平台当前页面为准。
配好之后
嵌入提供商只是备好了料。建库时把选定的嵌入模型绑定给具体知识库,注意建库后嵌入模型不可再换——换模型等于重建索引,这个约束在知识库搭建里会再强调一次。