Como funciona Rerank 3?
Rerank 3 é um modelo de reranking para a segunda etapa de busca: você envia a consulta e os candidatos encontrados, e recebe uma ordem onde o conteúdo relevante aparece primeiro. Segundo o fornecedor, é uma substituição drop-in para o rerank-2.5 com um aumento médio de 0,80% no NDCG@10 em avaliações de domínio e 3,35% em documentos longos, portanto, não é necessário reescrever a integração. No BotHub, o modelo está conectado a uma API única compatível com OpenAI, junto com mais de 250 outros modelos, disponível sem VPN ou cartão internacional, com pagamento em rublos conforme o uso. Cenários: assistentes de RAG para bases de conhecimento internas, busca em suporte e sites, seleção de respostas para contratos longos, resultados em lojas online. Para equipes, oferecemos contrato, fatura, EDI e limites no painel administrativo.Perguntas frequentes sobre Rerank 3
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
O rerank-3 é um modelo de ranqueamento da MongoDB: ele compara a consulta com documentos e reordena os resultados por relevância. É usado como uma segunda etapa sobre a busca comum, em sistemas RAG e na seleção de fragmentos, para garantir que o conteúdo mais relevante apareça primeiro. Contexto de até 32.000 tokens.
Ele não escreve texto pronto: na saída, você recebe pontuações de relevância e uma lista ordenada de fragmentos. O contexto de entrada é de até 32.000 tokens, e o limite de saída em nossos dados é de até 28.800 tokens, mas ele é consumido pelo resultado do ranqueamento, não por texto coerente.
Não há indicação de raciocínio antes da resposta em nossos dados, e, devido à sua tarefa, o modelo não precisa disso: ele não reflete em voz alta, mas compara imediatamente a consulta com os documentos e define a ordem de relevância. Se você precisa de explicações passo a passo, é melhor obtê-las de um modelo generativo.
Não há confirmação sobre chamada de funções e saída estruturada em nossos dados, portanto, não podemos afirmar. Na prática, o modelo não retorna texto arbitrário, mas o resultado do ranqueamento — a ordem dos fragmentos e as pontuações de relevância, que você recebe via API. Verifique o formato exato da resposta na documentação.
Não há indicação de aceitação de nada além de texto em nossos dados. O modelo trabalha com texto: a consulta e os documentos são enviados como texto, e ele avalia o quanto correspondem entre si. Para imagens, áudio e vídeo, será necessário um modelo separado de outra classe.
Não há avaliação da qualidade de trabalho com o idioma russo em nossos dados, portanto, não faremos promessas específicas. A ausência de indicação não significa que o idioma não seja suportado: teste o modelo com seus pares reais de 'consulta - fragmento' e compare a ordem dos resultados com a esperada antes de colocá-lo em produção.