All MiniLM L12 V2
Rede Neural
All MiniLM L12 V2 é um modelo de embedding compacto que converte sentenças e parágrafos em vetores de 384 dimensões para busca semântica.
Especificações
- Entrada
- texto
- Saída
- vetores (embeddings)
- Tamanho do contexto
- 512 tokens
- Dimensões do vetor
- 384
Custo do prompt
(por 1M tokens)
Como funciona All MiniLM L12 V2?
All MiniLM L12 V2 mapeia sentenças e parágrafos curtos para um espaço vetorial denso de 384 dimensões, gerando embeddings compactos para busca semântica, agrupamento e comparação de similaridade de texto. A baixa dimensionalidade economiza memória de índice e acelera a busca de vizinhos mais próximos no Qdrant, pgvector ou outro armazenamento vetorial. No BotHub, o modelo funciona via API compatível com OpenAI: uma chave para todos os modelos, acesso sem VPN, pagamento em rublos por tokens. Conecte-o a um pipeline de RAG sobre sua base de conhecimento, crie buscas em documentações e tickets de suporte, agrupe avaliações por tópicos e encontre duplicatas em catálogos de produtos.Perguntas frequentes sobre All MiniLM L12 V2
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
É um modelo de embedding compacto da sentence-transformers: ele transforma texto em um vetor numérico. Esses vetores são necessários para busca semântica, RAG sobre bases de documentos, agrupamento, desduplicação e classificação de tickets. O contexto por solicitação é de até 512 tokens, ideal para fragmentos curtos e chunks.
A saída não é texto nem imagem, mas um array de números de ponto flutuante — uma representação vetorial do fragmento. Ele é gravado em um banco de dados vetorial como Qdrant ou pgvector e comparado por similaridade de cosseno. O formato de resposta é o padrão para embeddings via API compatível com OpenAI do BotHub.
Raciocínio passo a passo não é indicado em nossos dados, e para embeddings isso não é necessário: o modelo codifica o fragmento em um vetor em uma única passagem. Se for necessária uma cadeia de pensamento, alterne para um modelo de texto com raciocínio no BotHub sem alterar a integração.
Function calling não é indicado em nossos dados — este não é um modelo de chat, mas um encoder. No entanto, a resposta vem estruturada: um JSON com um array de números, fácil de analisar em seu pipeline. Ferramentas e funções são melhor conectadas no nível do modelo de texto.
Em nossos dados, a aceitação de qualquer coisa além de texto não é indicada, portanto, planeje seu pipeline com fragmentos de texto. Se precisar indexar conteúdo multimodal, primeiro converta-o em texto com um modelo adequado do BotHub e, em seguida, calcule os embeddings com este encoder.
Não temos dados sobre os idiomas de treinamento, portanto, a qualidade deve ser verificada em seu próprio corpus: colete um pequeno conjunto de consultas e documentos de referência e meça a precisão dos resultados. No BotHub, você pode comparar vários encoders através de uma única API e escolher o melhor.