Cómo funciona Rerank 3 Lite?
Rerank 3 Lite es un reranker compacto optimizado para baja latencia y calidad. Comparado con rerank-2.5-lite, ofrece un aumento promedio del 0,94% en NDCG@10 en evaluaciones de dominio y se conecta como reemplazo directo sin reescribir el pipeline. Funciona como segunda etapa de búsqueda: selecciona candidatos por vectores y luego refina su orden según la relevancia de la consulta. En BotHub, obtienes una API única compatible con OpenAI sin necesidad de VPN ni tarjetas extranjeras, pago en rublos, cifrado y más de 250 modelos en una sola interfaz. Para equipos, están disponibles contratos, facturas, EDI y límites. Es útil en RAG con Qdrant y pgvector, búsqueda en bases de conocimiento, selección de productos y documentos, preguntas y respuestas sobre normativas, y para filtrar fragmentos irrelevantes.Preguntas frecuentes sobre Rerank 3 Lite
Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.
Es un reranker: evalúa qué tan bien coincide cada fragmento de texto con la consulta y reordena los resultados por relevancia. Úselo sobre la búsqueda o RAG para elevar las respuestas precisas y eliminar coincidencias aleatorias antes de enviarlas al modelo generativo.
No escribe texto coherente; la salida consiste en clasificaciones y puntuaciones de relevancia. En una sola solicitud, el modelo acepta hasta 32,000 tokens de contexto junto con los documentos; el límite de salida es de 28,800 tokens, que se destinan a la respuesta técnica, no a la redacción.
En nuestros datos no se indica tal capacidad. El reranker resuelve una tarea específica: comparar la consulta con un fragmento y asignar una puntuación de coincidencia, por lo que no se esperan largas cadenas de razonamiento. Para razonamientos paso a paso, utilice un modelo generativo en BotHub.
La llamada a funciones y la salida estructurada en JSON no están indicadas en nuestros datos. La tarea del modelo es devolver puntuaciones de relevancia para una lista de fragmentos, y para la integración suele bastar con una solicitud HTTP estándar desde su pipeline de búsqueda.
La recepción de imágenes, audio y video no está indicada en nuestros datos; el modelo trabaja con texto: la consulta y los fragmentos de documentos. No se le pueden enviar capturas de pantalla o grabaciones, pero el texto se puede enviar a través de BotHub sin VPN ni tarjetas extranjeras.
No hay información específica sobre el funcionamiento con el idioma ruso en los datos del modelo, por lo que no puedo prometer calidad. El reranker compara el significado de la consulta y el fragmento, y es razonable probarlo con sus propios documentos: ejecute una docena de consultas y observe cómo se organizan los resultados.