Cómo funciona Rerank 2.5?
Rerank 2.5 es un modelo de reclasificación: selecciona y ordena los fragmentos encontrados, por lo que la calidad de los resultados no depende solo de la búsqueda vectorial. Según el desarrollador, el modelo aumenta la precisión de búsqueda en un 7.94% en 93 conjuntos de datos. En BotHub está disponible sin VPN ni tarjeta extranjera, el pago es en rublos según uso y los tokens no caducan. A través de una API compatible con OpenAI, la reclasificación se integra en el pipeline RAG justo después de la búsqueda en Qdrant o pgvector, con más de 250 modelos de generación disponibles. Escenarios: bots RAG más precisos para bases de conocimiento internas, resultados relevantes en tiendas online, selección de documentos para asistentes corporativos y menos alucinaciones en soporte.Preguntas frecuentes sobre Rerank 2.5
Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.
rerank-2.5 es un reranker: toma su consulta y una lista de candidatos y los reordena por relevancia, proporcionando puntuaciones. Es adecuado para búsquedas en bases de conocimiento, selección de fragmentos para RAG, clasificación de resultados y filtrado de ruido antes de enviar a un modelo generativo. Disponible a través de la API de BotHub, sin VPN ni tarjeta extranjera.
Este modelo no escribe artículos ni ensayos: su respuesta es una lista ordenada de candidatos con puntuaciones de relevancia. Nuestros datos indican un contexto de 32,000 tokens por consulta y un límite de salida de 28,800 tokens, pero estos se consumen en el procesamiento de la consulta y la clasificación, no en texto coherente.
No hay indicios de razonamiento previo en nuestros datos, por lo que no podemos prometer razonamientos paso a paso. Por su diseño, el modelo compara inmediatamente la consulta con los candidatos y proporciona el orden. Si necesita una cadena de razonamiento, es mejor construirla en un modelo generativo y usar el reranker para seleccionar los fragmentos.
No hay confirmación de llamada a funciones ni salida estructurada en JSON en nuestros datos. Sin embargo, el resultado del reranker ya está ordenado: es una lista de candidatos con puntuaciones, fácil de analizar mediante programación. Si necesita una respuesta estricta según su esquema, consulte el formato en la documentación de la API.
No se indica la recepción de imágenes, audio o video en nuestros datos. Considere que el modelo trabaja con texto: consulta y candidatos de texto (fragmentos de documentos, artículos, respuestas de bases de conocimiento). Para imágenes y video, elija modelos del tipo correspondiente en BotHub; están disponibles en la misma ventana.
No hay datos sobre la calidad del trabajo con el idioma ruso en la descripción del modelo, por lo que no haremos afirmaciones al respecto. Es más práctico probarlo con sus propios materiales: cargue pares reales de 'pregunta-fragmento' y compare el orden de los resultados. A través de BotHub, esto se puede hacer cómodamente en una sola ventana y sin VPN.