Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.

É um reranker: ele recebe uma consulta de pesquisa e uma lista de documentos, reavalia a relevância deles e retorna pontuações para reordenamento. É adequado como uma segunda etapa em RAG e busca semântica após a recuperação de um banco de dados vetorial como Qdrant ou pgvector.

O modelo não escreve texto: na saída, você recebe pontuações numéricas de relevância para os pares consulta-documento enviados. Planeje não o comprimento da geração, mas o volume de entrada — o contexto é de 4095 tokens, ou seja, a consulta junto com o fragmento do documento deve caber nele.

Um modo de raciocínio separado não está indicado em nossos dados, e para um reranker ele não é necessário: o modelo compara a consulta com o documento em uma única passagem e fornece uma pontuação. Se você precisar de cadeias de raciocínio, conecte um modelo de texto no BotHub — a API permanece a mesma.

Function calling não está indicado em nossos dados. No entanto, a resposta do reranker é, por si só, legível por máquina: você recebe pontuações de relevância para cada documento e as analisa facilmente em seu código para reordenar os resultados da pesquisa antes de passá-los para um modelo generativo.

A aceitação de outras modalidades não está indicada em nossos dados — trabalhe com pares de texto consulta-documento. Se precisar de imagens, áudio ou vídeo no pipeline, mude para um modelo adequado no BotHub: uma API única compatível com OpenAI permite fazer isso sem reescrever a integração.

A família M3 da BAAI foi projetada originalmente como multilíngue, portanto, o reranker também é aplicado a coleções em russo. A qualidade ainda depende dos seus dados, então meça as métricas de classificação em sua própria amostra — através do BotHub, isso está disponível sem VPN e sem cartão estrangeiro.