Como funciona qwen3-reranker-8b?
Perguntas frequentes sobre qwen3-reranker-8b
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
O qwen3-reranker-8b é um reranker: ele não escreve texto, mas avalia o quanto um documento responde a uma consulta. Ele é colocado como a segunda etapa de busca após um banco de dados vetorial como Qdrant ou pgvector, para reordenar os candidatos e enviar ao RAG apenas os fragmentos mais relevantes. É adequado para busca semântica, seleções e recomendações.
Nenhum no sentido habitual: não é um modelo generativo. Na saída, você obtém pontuações de relevância, pelas quais a ordem dos documentos é estabelecida. Em nossos dados, o limite de saída é de 4096 tokens, e o comprimento do par consulta-documento é limitado a um contexto de 4095 tokens. Se precisar de um texto coerente, conecte um modelo generativo na mesma janela.
Em nossos dados, o modo de raciocínio não está marcado para o qwen3-reranker-8b, e geralmente não é necessário para um reranker: o modelo compara a consulta com o documento e retorna uma pontuação de relevância. A lógica e a explicação são construídas pelo modelo generativo ao qual você transmite os fragmentos selecionados.
Em nossos dados, a chamada de funções e a saída estruturada não estão marcadas. Na prática, o reranker é chamado como uma etapa separada do pipeline: você envia a consulta e a lista de documentos, recebe as pontuações e você mesmo as organiza na estrutura desejada. A conexão é feita através da API BotHub compatível com OpenAI.
O recebimento de arquivos além de texto não está marcado em nossos dados, portanto, conte com pares de texto: consulta e fragmentos de documentos. Se precisar de imagens, áudio ou vídeo no pipeline, mude para um modelo adequado na mesma janela — não será necessário reescrever a integração.
O idioma das consultas e documentos não está fixado em nossos dados, portanto, não prometeremos precisão em russo. A linha Qwen3 está se desenvolvendo como multilíngue, mas é mais correto testar o reranker em seu próprio corpus: colete uma amostra de consultas em russo e compare a ordem de resultados antes e depois.