All MiniLM L12 V2
Red Neuronal
All MiniLM L12 V2 es un modelo compacto de embeddings que convierte oraciones y párrafos en vectores de 384 dimensiones para búsqueda semántica.
Características
- Entrada
- texto
- Salida
- vectores (embeddings)
- Tamaño del contexto
- 512 tokens
- Dimensiones del vector
- 384
Costo del prompt
(por 1M tokens)
Cómo funciona All MiniLM L12 V2?
All MiniLM L12 V2 mapea oraciones y párrafos cortos a un espacio vectorial denso de 384 dimensiones, generando embeddings compactos para búsqueda semántica, agrupación y comparación de similitud de textos. Su baja dimensionalidad ahorra memoria de índice y acelera la búsqueda de vecinos cercanos en Qdrant, pgvector u otro almacenamiento vectorial. En BotHub, el modelo funciona a través de una API compatible con OpenAI: una sola clave para todos los modelos, acceso sin VPN ni tarjetas extranjeras, y pago en rublos por uso de tokens. Conéctelo a un pipeline de RAG sobre su base de conocimientos, cree búsquedas en documentación y tickets de soporte, agrupe reseñas por temas y encuentre duplicados en catálogos de productos.Preguntas frecuentes sobre All MiniLM L12 V2
Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.
Es un modelo compacto de embeddings de sentence-transformers: convierte texto en un vector numérico. Estos vectores son necesarios para búsqueda semántica, RAG sobre bases de documentos, agrupación, deduplicación y clasificación de tickets. El contexto por solicitud es de hasta 512 tokens, ideal para fragmentos cortos.
La salida no es texto ni imagen, sino una matriz de números de punto flotante: una representación vectorial del fragmento. Se guarda en una base de datos vectorial como Qdrant o pgvector y se compara mediante similitud de coseno. El formato de respuesta es estándar para embeddings a través de la API de BotHub compatible con OpenAI.
No se observa razonamiento paso a paso en nuestros datos, y no es necesario para embeddings: el modelo codifica el fragmento en un vector en una sola pasada. Si se requiere una cadena de pensamiento, cambie a un modelo de texto de razonamiento en BotHub sin cambiar la integración.
No se observa 'function calling' en nuestros datos; no es un modelo de chat, sino un codificador. Sin embargo, la respuesta llega estructurada: un JSON con una matriz de números, fácil de analizar en su pipeline. Es más conveniente conectar herramientas y funciones a nivel de modelo de texto.
En nuestros datos no se observa la recepción de nada más que texto, así que planifique su pipeline con fragmentos de texto. Si necesita indexar contenido multimodal, primero conviértalo a texto con un modelo adecuado de BotHub y luego calcule los embeddings con este codificador.
No tenemos datos sobre los idiomas de entrenamiento, por lo que debe verificar la calidad en su propio corpus: recopile un pequeño conjunto de consultas y documentos de referencia y mida la precisión. En BotHub puede comparar varios codificadores a través de una sola API y elegir el mejor.