最佳嵌入模型 FR

#什么是嵌入模型，以及法语为何会带来额外复杂性

嵌入模型是一种神经网络，可将文本（一句话、一段文字或一个文本块）转换为数值向量，其维度因模型而异，从 384 到 4,096 不等。语义相近的两段文本会产生相近的向量，通常用余弦相似度衡量这种接近程度。正是这种机制使 RAG 能够在用户输入“CDD”时，找到有关“固定期限合同”的段落，即使两者没有任何共同词汇。正如 Ollama 文档所强调的，问题和文档必须由同一个模型编码；因此，更换模型就必须重新索引整个语料库。选择时，只需回答三个问题：模型是否在法语语料上训练过？它的上下文窗口是否能容纳您的文本块？它的许可证是否允许您的用途？

法语本身还带来一些难点：重音符号、省音（如“l'employeur”）、法律缩略语，以及混在文本中的技术性英语用语。模型之间的差距明显。在 MTEB-French 基准测试中，all-MiniLM-L12-v2 的检索得分为 0.43，BGE-M3 为 0.65，在同一组问题上相差 22 个百分点。

#真正区分模型的五个标准

训练语言

BGE-M3 和 Qwen3-Embedding 宣称支持超过 100 种语言，multilingual-e5-large 宣称支持 94 种。在 Ollama 中下载量很高的 nomic-embed-text-v1.5 和 mxbai-embed-large-v1，其模型说明页均标注为 English。

最大上下文长度

multilingual-e5-large、Solon 和 mxbai-embed-large 为 512 token；EmbeddingGemma 为 2048 token；BGE-M3 为 8192 token；Qwen3-Embedding 和 Granite R2 为 32000 token。过长的文本块会被截断，而不会被拒绝。

维度与存储

384 至 4 096 维；使用 float32 时，每个向量的每一维占 4 字节（计算见下文）。

许可证

BGE-M3、multilingual-e5-large 和 Solon 采用 MIT 许可证；Qwen3-Embedding、Granite R2、nomic 和 mxbai 采用 Apache 2.0 许可证；EmbeddingGemma 适用 Gemma 条款；jina-clip-v2 采用 CC BY-NC 4.0 许可证（非商业用途）。

前缀和指令

某些模型要求在每段文本前添加前缀（E5 使用“query:”和“passage:”，即使文本是法语也一样）。遗漏前缀会降低检索效果，但不会报错。

#2026年法语模型排名：共对比九个模型

该排名为编辑推荐，非内部测试：综合了法语支持、已发布基准测试及本地部署可用性。模型权重若在 Ollama 库中存在则采用该库权重，否则采用 MTEB-French 研究估算的 float32 权重。

BGE-M3 仍是最佳默认选择：其法语检索结果已公布，8,192 个 token 的上下文长度可避免大多数被迫切分的情况，它还提供有助于混合检索的词法权重。有显卡可用时，可以考虑 Qwen3-Embedding：据 Qwen 称，其 8B 版本在 2025 年 6 月 5 日发布时位居 MTEB 多语言排行榜榜首，但其 4,096 维向量会带来较大的存储负担。EmbeddingGemma 面向配置较低的设备。

Solon 常被介绍为法语法律和行政领域的专家，但在 MTEB-French 研究的三个检索数据集上，它都没有胜出：在 Syntec 集体协议数据集上与 BGE-M3 持平，在法律条文（BSARD）和学校学习问题（Alloprof）数据集上则落后于 BGE-M3。

#法语基准测试能说明什么，又不能说明什么

已发表的参考基准是MTEB-French（Ciancone等，2024年5月）：18个数据集、8类任务，共比较了51个模型。作者得出结论，针对句子相似性进行预训练的大型多语言模型表现极为出色。以下是三个数据集上的检索结果（NDCG@10）：法语法律条文（BSARD）、Syntec集体协议以及Alloprof的学科问题。

有三项局限，因此不能据此给出最终排名。这项研究发表于 2024 年：既不包含 Qwen3-Embedding（2025 年 6 月），也不包含 EmbeddingGemma（2025 年 9 月）或 Granite R2，而且编写本页时并未参考这些模型在法语上的任何可比评测数据。研究所用的语料库（法律条文、集体劳动协议、学校教育问题）未必与您的语料库相似。最后，厂商公布的多语言评分是自行报告的数据，并且混合了所有语言的结果。

#不同场景该选哪个模型：决策表

#企业定制嵌入模型：开放模型、微调或 API

“量身定制”并不意味着一开始就训练自己的模型。避免浪费时间的顺序是：先使用通用的开放模型，做好分块，采用混合检索和重排序器；然后用您的实际问题评估召回率；最后，只有在失败仍然持续、且原因在于业务术语（内部引用、公司自用缩写）时，才进行微调。

Philipp Schmid 于 2024 年 6 月使用从金融文档中提取的 6300 组问题与段落配对，对 bge-base-en-v1.5 模型进行了微调：在他的测试集上，检索得分提高了约 7.4%，训练在一块消费级显卡上耗时三分钟。这是一个英文案例，只涉及一个语料库，且配对由 LLM 生成：仅供了解大致量级，并非效果承诺。BAAI 也提供了 BGE-M3 微调的相关文档。

#多模态嵌入：在图像和文档页面中进行检索

多模态嵌入模型将文本和图像映射到同一个向量空间。这样就可以根据一句话检索照片，或检索扫描的 PDF 页面，而无需经过 OCR。本页查阅的 Ollama 模型库中的模型（BGE-M3、Qwen3-Embedding、EmbeddingGemma、nomic-embed-text、mxbai-embed-large）仅接受文本输入：下面的多模态模型通过 Hugging Face（Sentence-Transformers 或 Transformers）使用。

多模态模型在纯文本任务上并不更好。在 Qwen 发布的表格中，Qwen3-VL-Embedding-2B 在 MTEB 多语言评测中得分为 63.87，而 Qwen3-Embedding-0.6B 得分为 64.33，后者是一个参数量不到前者三分之一的文本模型。对于有效内容为文本的 PDF，请将其转换为干净的文本（使用 Docling 或 OCR），并继续使用文本嵌入模型。将多模态模型留给视觉类语料：示意图、图纸、截图、幻灯片。

#管理嵌入向量：前缀、截断、存储与重新索引

RAG 的效果下降往往更多是由这些细节造成的，而不是模型选择本身。第一个细节是：每个模型家族对问题和文档各有不同的输入格式要求。

使用Ollama时，mxbai-embed-large的官方示例会将前缀直接嵌入发送的文本中：您需要在自己的代码中手动添加该前缀。Qwen表示指令通常可提升1%至5%的性能，即使在多语言语料库中，也建议使用英文编写指令。

#Ollama 的陷阱：静默截断

Ollama 的 /api/embed 接口有一个 truncate 参数，默认值为 true：输入超过模型的上下文窗口时，会被截断而不报错。使用 mxbai-embed-large（在 Ollama 中的上下文窗口为 512 个 token）时，一个 700 个 token 的分块会在缺少末尾内容的情况下被索引，而且没人察觉。Ollama 中的上下文长度也可能与原始模型说明不同：nomic-embed-text 在 Ollama 中为 2K，而 Nomic 公布的是 8 192。测试时请将 truncate 设为 false：宁可报错，也不要让文本被截断。

#维度、存储与索引限制

存储计算方式很简单：chunk 数量 × 维度 × 4 字节（float32），不包含索引。对于一百万个 chunk，向量本身占用的空间为：

数据库也有上限。使用 pgvector 时，索引最多支持 2,000 维向量，采用半精度（halfvec）时则最多支持 4,000 维：Qwen3-Embedding-8B 的 4,096 维甚至超过了这一限制。应对方法是截断向量，经过 Matryoshka 训练的模型（Qwen3-Embedding、EmbeddingGemma、nomic v1.5）支持这种做法，然后再重新归一化，正如 Google 针对 EmbeddingGemma 所说明的那样。Ollama 的 /api/embed API 接受 dimensions 参数，该参数应仅用于这些模型。

#版本管理与重新索引

需保留的元数据

模型的确切名称、修订版本、维度、前缀模板、分块参数、索引日期。没有这些信息，就没人知道检索为何发生了变化。

更换模型

将整个语料库重新编码到新的集合中，进行评估后切换。切勿在同一个集合中混合使用两个模型。

归一化

Ollama 返回 L2 归一化的向量：请在整个系统中使用相同的度量方式（余弦或点积）

#在实际场景中使用模型，并在您的文档上进行测试

ollama pull bge-m3

curl http://localhost:11434/api/embed -d '{
  "model": "bge-m3",
  "input": "Le contrat débute le 1er mai."
}'

import numpy as np
import ollama

textes = [
    "Le contrat débute le 1er mai.",
    "Date de début : 01/05.",
    "La voiture est rouge.",
]
vecteurs = np.array(ollama.embed(model="bge-m3", input=textes)["embeddings"])

# Les vecteurs d'Ollama sont normalisés : le produit scalaire vaut le cosinus
print(vecteurs[0] @ vecteurs[1])
print(vecteurs[0] @ vecteurs[2])

只需记住两个分数的高低关系：第一个必须明显高于第二个。要认真比较两三个候选模型，下面的流程可以取代所有已发布的排名。

1. 01
   构建一个真实的测试集

   收集 50 到 100 个真实用户提出的问题（客服咨询、工单、常见问题），并为每个问题标注包含答案的 chunk。由 LLM 编造的问题会让评测结果显得过于理想。
2. 02
   使用每个候选模型进行编码

   按照前缀表先对 chunk 编码，再对问题编码；所有候选模型都应使用相同的 chunk 长度和存储维度。
3. 03
   测量recall@5

   对于每个问题，检查前五个结果中是否包含正确的文本块。下面的脚本会完成这一计算。
4. 04
   以成本为标准进行决策

   保留 recall@5 与最佳模型仅相差一到两个百分点的最轻量模型：体积是原来八倍的模型，每次重新索引都会增加存储和时间成本。

import numpy as np
from sentence_transformers import SentenceTransformer

modele = SentenceTransformer("BAAI/bge-m3")

chunks = [...]      # vos chunks (liste de textes)
questions = [...]   # 50 à 100 vraies questions
cible = [...]       # pour chaque question, l'index du bon chunk

C = modele.encode(chunks, normalize_embeddings=True)
Q = modele.encode(questions, normalize_embeddings=True)

top5 = np.argsort(-(Q @ C.T), axis=1)[:, :5]
recall5 = np.mean([cible[i] in top5[i] for i in range(len(questions))])
print(f"recall@5 = {recall5:.0%}")

• Sentence Transformers：本地嵌入
• 分块策略：分块大小与模型上下文长度的关系
• BM25 + 向量混合搜索
• 在微调前添加重排序器
• pgvector : 维度限制和索引
• Ragas：用数据评估您的 RAG

• 来源：BGE-M3（BAAI）官方文档
• 数据来源：Ciancone 等人（2024）的 MTEB-French 研究
• 来源：Ollama 的嵌入文档
• 来源：Qwen3-Embedding 模型说明页
• 来源：EmbeddingGemma 模型卡（Google）