Como funciona Rerank 3 Lite?
Rerank 3 Lite é um reranker compacto otimizado para baixa latência e qualidade. Comparado ao rerank-2.5-lite, oferece um ganho médio de 0,94% em NDCG@10 em avaliações de domínio e conecta-se como uma substituição direta sem reescrever o pipeline. Funciona como a segunda etapa da busca: seleciona candidatos por vetores e, em seguida, refina sua ordem por relevância à consulta. No BotHub, você tem uma API única compatível com OpenAI sem necessidade de VPN ou cartão internacional, pagamento em rublos conforme o uso, criptografia e mais de 250 modelos em um só lugar. Para equipes, estão disponíveis contratos, faturas, EDI e limites. Útil em RAG com Qdrant e pgvector, busca em bases de conhecimento, recomendação de produtos e documentos, perguntas e respostas sobre regulamentos e filtragem de fragmentos irrelevantes.Perguntas frequentes sobre Rerank 3 Lite
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
É um reranker: ele avalia o quanto cada fragmento de texto corresponde à consulta e reordena os resultados por relevância. Use-o sobre a busca ou RAG para elevar as respostas precisas e remover correspondências aleatórias antes de enviar para o modelo generativo.
Ele não escreve texto coerente — a saída é um ranking e pontuações de relevância. Em uma única solicitação, o modelo aceita até 32.000 tokens de contexto junto com os documentos; o limite de saída é de 28.800 tokens, que são usados para a resposta técnica, não para redação.
Essa capacidade não foi observada em nossos dados. O reranker resolve uma tarefa específica — comparar a consulta com o fragmento e atribuir uma pontuação de conformidade, portanto, não se espera dele longas cadeias de raciocínio. Para raciocínios passo a passo, utilize um modelo generativo no BotHub.
A chamada de funções e a saída estruturada em JSON não foram observadas em nossos dados. A tarefa do modelo é retornar pontuações de relevância para uma lista de fragmentos, e para a integração, geralmente basta uma solicitação HTTP comum do seu pipeline de busca.
O recebimento de imagens, áudio e vídeo não foi observado em nossos dados — o modelo trabalha com texto: consulta e fragmentos de documentos. Não é possível enviar capturas de tela ou gravações, mas o texto pode ser enviado via BotHub sem VPN ou cartão internacional.
Não há informações específicas sobre o desempenho com o idioma russo nos dados do modelo, portanto, não posso prometer qualidade. O reranker compara o significado da consulta e do fragmento, e é sensato testá-lo com seus próprios documentos: execute uma dezena de consultas e veja como os resultados são organizados.