上海推广网站公司,什么是seo,今天最火的新闻头条,seo索引擎优化背景
BGE embedding系列模型是由智源研究院研发的中文版文本表示模型。
可将任意文本映射为低维稠密向量#xff0c;以用于检索、分类、聚类或语义匹配等任务#xff0c;并可支持为大模型调用外部知识。
BAAI/BGE embedding系列模型
模型列表
ModelLanguageDescriptionq…
背景
BGE embedding系列模型是由智源研究院研发的中文版文本表示模型。
可将任意文本映射为低维稠密向量以用于检索、分类、聚类或语义匹配等任务并可支持为大模型调用外部知识。
BAAI/BGE embedding系列模型
模型列表
ModelLanguageDescriptionquery instruction for retrieval [1]BAAI/bge-m3Multilingual推理 微调多功能向量检索稀疏检索多表征检索、多语言、多粒度最大长度8192LM-CocktailEnglish微调的Llama和BGE模型可以用来复现LM-Cocktail论文的结果BAAI/llm-embedderEnglish推理 微调专为大语言模型各种检索增强任务设计的向量模型详见 READMEBAAI/bge-reranker-largeChinese and English推理 微调交叉编码器模型精度比向量模型更高但推理效率较低 [2]BAAI/bge-reranker-baseChinese and English推理 微调交叉编码器模型精度比向量模型更高但推理效率较低 [2]BAAI/bge-large-en-v1.5English推理 微调1.5版本相似度分布更加合理Represent this sentence for searching relevant passages: BAAI/bge-base-en-v1.5English推理 微调1.5版本相似度分布更加合理Represent this sentence for searching relevant passages: BAAI/bge-small-en-v1.5English推理 微调1.5版本相似度分布更加合理Represent this sentence for searching relevant passages: BAAI/bge-large-zh-v1.5Chinese推理 微调1.5版本相似度分布更加合理为这个句子生成表示以用于检索相关文章BAAI/bge-base-zh-v1.5Chinese推理 微调1.5版本相似度分布更加合理为这个句子生成表示以用于检索相关文章BAAI/bge-small-zh-v1.5Chinese推理 微调1.5版本相似度分布更加合理为这个句子生成表示以用于检索相关文章BAAI/bge-large-enEnglish推理 微调向量模型将文本转换为向量Represent this sentence for searching relevant passages: BAAI/bge-base-enEnglish推理 微调base-scale 向量模型Represent this sentence for searching relevant passages: BAAI/bge-small-enEnglish推理 微调small-scale 向量模型Represent this sentence for searching relevant passages: BAAI/bge-large-zhChinese推理 微调向量模型将文本转换为向量为这个句子生成表示以用于检索相关文章BAAI/bge-base-zhChinese推理 微调base-scale 向量模型为这个句子生成表示以用于检索相关文章BAAI/bge-small-zhChinese推理 微调small-scale 向量模型为这个句子生成表示以用于检索相关文章
C_MTEB榜单Embedding
目前看榜单的话BAAI/bge-large-zh-v1.5是居于榜首的。这里仅就刷榜而言
ModelEmbedding dimensionAvgRetrievalSTSPairClassificationClassificationRerankingClusteringBAAI/bge-large-zh-v1.5102464.5370.4656.2581.669.1365.8448.99BAAI/bge-base-zh-v1.576863.1369.4953.7279.7568.0765.3947.53BAAI/bge-small-zh-v1.551257.8261.7749.1170.4163.9660.9244.18BAAI/bge-large-zh102464.2071.5354.9878.9468.3265.1148.39BAAI/bge-large-zh-noinstruct102463.5370.555376.7768.5864.9150.01BAAI/bge-base-zh76862.9669.5354.1277.567.0764.9147.63multilingual-e5-large102458.7963.6648.4469.8967.3456.0048.23BAAI/bge-small-zh51258.2763.0749.4570.3563.6461.4845.09m3e-base76857.1056.9150.4763.9967.5259.3447.68m3e-large102457.0554.7550.4264.368.259.6648.88multilingual-e5-base76855.4861.6346.4967.0765.3554.3540.68multilingual-e5-small38455.3859.9545.2766.4565.8553.8645.26text-embedding-ada-002(OpenAI)153653.0252.043.3569.5664.3154.2845.68luotuo102449.3744.442.7866.626149.2544.39text2vec-base76847.6338.7943.4167.4162.1949.4537.66text2vec-large102447.3641.9444.9770.8660.6649.1630.02
bge-large-zh-v1.5
发布bge-*-v1.5向量模型缓解相似度分布问题提升无指令情况下的检索能力但检索任务仍建议使用指令
使用示例 from FlagEmbedding import FlagModel
sentences_1 [样例数据-1, 样例数据-2]
sentences_2 [样例数据-3, 样例数据-4]
model FlagModel(BAAI/bge-large-zh-v1.5, query_instruction_for_retrieval为这个句子生成表示以用于检索相关文章,use_fp16True) # Setting use_fp16 to True speeds up computation with a slight performance degradation
embeddings_1 model.encode(sentences_1)
embeddings_2 model.encode(sentences_2)
similarity embeddings_1 embeddings_2.T
print(similarity)# for s2p(short query to long passage) retrieval task, suggest to use encode_queries() which will automatically add the instruction to each query
# corpus in retrieval task can still use encode() or encode_corpus(), since they dont need instruction
queries [query_1, query_2]
passages [样例文档-1, 样例文档-2]
q_embeddings model.encode_queries(queries)
p_embeddings model.encode(passages)
scores q_embeddings p_embeddings.T 使用示例2
在上篇文章LLM大语言模型七部署ChatGLM3-6B并提供HTTP server能力_failed to parse tool call, maybe the response is n-CSDN博客
中部署ChatGLM3-6B并提供HTTP server能力时也是显示的用了 bge-large-zh-v1.5 embedding可以让用户测试输入对应的embedding。LLM实际使用的是tokenizer默认包含了分词和embedding等 app.post(/v1/embeddings, response_modelEmbeddingResponse)
async def get_embeddings(request: EmbeddingRequest):embeddings [embedding_model.encode(text) for text in request.input]embeddings [embedding.tolist() for embedding in embeddings] 参考
LLM大语言模型七部署ChatGLM3-6B并提供HTTP server能力LLM大语言模型四在ChatGLM3-6B中使用langchain_chatglm3-6b langchain-CSDN博客LLM大语言模型一ChatGLM3-6B本地部署-CSDN博客
