Como funciona Rerank 2.5?
Rerank 2.5 é um modelo de reranking: ele seleciona e ordena os fragmentos encontrados, portanto a qualidade dos resultados não depende apenas da busca vetorial. Segundo o desenvolvedor, o modelo aumenta a precisão da busca em 7,94% em 93 conjuntos de dados. No BotHub, está disponível sem VPN e sem cartão internacional, o pagamento é feito em rublos conforme o uso, e os tokens não expiram. Através de uma API única compatível com OpenAI, o reranking é integrado ao pipeline RAG logo após a busca via Qdrant ou pgvector, com mais de 250 modelos de geração disponíveis. Cenários: bot RAG mais preciso para base de conhecimento interna, resultados relevantes em lojas online, seleção de documentos para assistentes corporativos, menos alucinações no suporte.Perguntas frequentes sobre Rerank 2.5
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
O rerank-2.5 é um reranker: ele pega sua consulta e uma lista de candidatos e os reordena por relevância, fornecendo pontuações. É adequado para busca em bases de conhecimento, seleção de fragmentos para RAG, classificação de resultados e filtragem de lixo antes do envio para o modelo generativo. Disponível via API única do BotHub, sem VPN e sem cartão internacional.
Esta modelo não escreve artigos ou redações: sua resposta é uma lista ordenada de candidatos com pontuações de relevância. Nossos dados indicam um contexto de 32.000 tokens por consulta e um limite de saída de 28.800 tokens, mas eles são consumidos no processamento da consulta e no ranqueamento, não em texto coerente.
Não há indicação de raciocínio antes da resposta em nossos dados, portanto não prometemos pensamentos passo a passo. Por sua finalidade, o modelo compara imediatamente a consulta com os candidatos e fornece a ordem. Se precisar de uma cadeia de raciocínio, é melhor construí-la em um modelo generativo e usar o reranker para selecionar os fragmentos.
Não há confirmação de chamada de funções ou saída estruturada em JSON em nossos dados. No entanto, o resultado do reranker já é ordenado: uma lista de candidatos com pontuações, fácil de analisar programaticamente. Se precisar de uma resposta estrita conforme seu esquema, verifique o formato na documentação da API.
O recebimento de imagens, áudio e vídeo não está indicado em nossos dados. Considere que o modelo trabalha com texto: consulta e candidatos de texto — fragmentos de documentos, artigos, respostas de base de conhecimento. Para imagens e vídeos, escolha modelos do tipo correspondente no BotHub; eles estão disponíveis na mesma janela.
Não há dados sobre a qualidade do trabalho com o idioma russo na descrição do modelo, portanto não faremos afirmações sobre isso. É mais prático testar com seus próprios materiais: carregue pares reais de 'pergunta — fragmento' e compare a ordem dos resultados. No BotHub, isso é fácil de fazer em uma única janela e sem VPN.