国际 AI 资讯

OpenRouter更新嵌入模型目录:19 款模型实测与选型参考

OpenRouter 对目录中的 37 个嵌入模型条目进行了梳理,并向 19 个模型发出批量请求,覆盖请求与响应行为检查。指南按英文检索、多语言、代码搜索、图文检索等场景给出候选,并列出上下文长度、维度与价格差异,同时提醒更换模型通常需要重建索引。

海宇数科 · 事件日期 · 约 6 分钟 · 1 次阅读

OpenRouter更新嵌入模型目录:19 款模型实测与选型参考相关配图 1
OpenRouter更新嵌入模型目录:19 款模型实测与选型参考相关配图 1

OpenRouter 于 9 月 11 日更新了嵌入模型目录,共列出 37 个条目,并向其中 19 个模型通过 embeddings API 发送批量请求,执行 28 项检查,形成一份按使用场景组织的选型参考。

这份参考的核心是按场景给出候选模型,而非给出单一排名。英文检索默认建议从 openai/text-embedding-3-small 起步;当输入超过 8192 个 token,或在 Voyage4 各档之间切换时,可测试 voyage-4-large;需要开放权重替代方案时,qwen3-embedding-8b 提供更长上下文和更低提示词价格。多语言检索对应 qwen3-embedding-8b,代码搜索对应 voyage-code-4,文本加图像检索对应 google/gemini-embedding-2 或 voyage-multimodal-3.5。

候选模型的关键参数被集中列出。text-embedding-3-small 支持 8192 token 上下文,输出 1536 维,每百万输入 token 收费 0.02 美元;text-embedding-3-large 同为 8192 token 上下文,输出 3072 维,收费 0.13 美元。Voyage4 家族中的 lite、标准版、large、code-4 与 multimodal-3.5 均为 32000 token 上下文、1024 维,价格从 0.02 美元到 0.12 美元不等。Qwen3-Embedding-8B 为 32768 token 上下文、4096 维,每百万 token 收费 0.01 美元,且为开放权重;4B 版输出 2560 维,收费 0.02 美元。Perplexity 的 0.6B 与 4B 分别输出 1024 维和 2560 维,收费 0.004 美元和 0.03 美元。Gemini Embedding2 支持文本与图像输入,8192 token 上下文、3072 维,文本每百万 token 收费 0.20 美元,图像 token 收费 0.45 美元。NVIDIA 的免费路由提供 32768 token 上下文、2048 维,覆盖 34 种语言。

测试方法方面,OpenRouter 向 19 个模型发送双字符串批量请求,28 项检查覆盖批量输入、可配置维度、图像输入、文本加图像以及错误处理。16 个付费模型对每个输入都返回了单个向量。dimensions 参数在 OpenAI 3-small、Gemini2 和 Voyage4-large 上均生效,设为 256 或 512 时会返回对应长度的向量;请求不存在的模型则收到 400 错误并提示模型不存在。OpenRouter 强调,这些检查针对的是请求与响应行为,并不评估检索质量,响应时间也未纳入比较,因为各模型的服务条件不同。三条免费路由在测试账户中返回 404,与账户隐私设置不允许免费模型提示词用于训练有关,这也提示免费开关、工作区护栏或 provider.data_collection 设为 deny 都可能导致类似结果。

具体场景建议中,英文检索默认保留 1536 维的 3-small,只有存储或搜索成本成为瓶颈时才考虑缩减维度。把 dimensions 设为 256 可进一步压缩向量,但可能影响检索质量,修改现有索引前应先测试。Voyage4 系列支持 256、512、1024、2048 四档维度,且官方声明同系列向量彼此兼容,切换档位不必重建索引。多语言方面,Qwen3-Embedding-8B 默认返回 4096 维,厂商报告的 MTEB 多语言得分为 70.58;4B 版输出 2560 维、资源占用更低。bge-m3 可作为第二个开放多语言选项,提供 8192 token 上下文和 1024 维。代码搜索以 voyage-code-4 为首选,codestral-embed-2505 可作对比,CoIR 基准可用于横向比较。图文检索中,Gemini Embedding2 将文本和图像放入同一向量空间,一张 64×64 的 PNG 计为 258 个 token、费用 0.000128 美元;voyage-multimodal-3.5 对同一图像计为 89 个 token、费用 0.00003 美元。两者向量空间不同,建索引前需先选定其中一个。

评测建议保持克制:固定同一套语料、查询、相关性标签、分块与指标,只替换模型,结果才具可比性。英文检索可从 512 至 1024 token 的块并加重叠起步,用 nDCG 衡量多块相关时的排序效果;多语言评测应逐语言上报,避免平均值掩盖短板;代码搜索则把 issue 描述映射到解决该问题的文件与分块。存储成本也需纳入考量,100 万个 4096 维 float32 向量约占 16.4GB,100 万个 1024 维向量约占 4.1GB,计算方式为向量数乘维度再乘每值字节数,在满足目标的前提下选择最小维度更经济。

指南还强调一条硬性规则:不同模型族的向量不共享坐标空间,用 3-small 建立的索引必须由同一模型生成查询向量,混用会得到不可靠结果;Gemini2 与 001 同样不共享空间,切换时需要重建索引。有文档记录的例外是 Voyage4 族内兼容,但换档位前仍应在样本上验证检索质量。部署时建议把模型 slug、输出维度、提示词格式和创建日期随索引元数据一并保存。对于常见问题,指南给出的答复包括:更换模型通常需要重嵌整个语料;最快模型并未经过延迟基准测试;ada-002 不再作为新索引的默认选择;免费路由返回 404 时应先检查隐私设置。

← 返回AI 资讯