All MiniLM L6 V2
Rede Neural
All MiniLM L6 V2 é um modelo de embeddings que converte frases e parágrafos curtos em vetores de 384 dimensões para busca semântica.
Especificações
- Entrada
- texto
- Saída
- vetores (embeddings)
- Tamanho do contexto
- 512 tokens
- Dimensões do vetor
- 384
Custo do prompt
(por 1M tokens)
Como funciona All MiniLM L6 V2?
O All MiniLM L6 V2 mapeia frases e parágrafos curtos para um espaço vetorial denso de 384 dimensões, fornecendo representações compactas para busca semântica, agrupamento e classificação. A dimensão compacta reduz o volume do índice e acelera a busca de vizinhos mais próximos em Qdrant, pgvector, FAISS e outros bancos de dados vetoriais. No BotHub, o modelo é conectado via uma API única compatível com OpenAI, junto com mais de 250 outros modelos. O acesso é aberto sem VPN ou cartões internacionais, com pagamento em rublos por token. Use-o para pipelines de RAG sobre bases de conhecimento, desduplicação e agrupamento de tickets, busca semântica em documentação, recomendação de produtos similares e classificação de textos curtos.Perguntas frequentes sobre All MiniLM L6 V2
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
É um modelo de embedding da sentence-transformers: ele transforma texto em um vetor numérico, pelo qual é possível medir a proximidade semântica. Adequado para busca semântica, busca RAG em bases de documentos, agrupamento e desduplicação de registros, classificação de solicitações e criação de recomendações baseadas no significado, e não na correspondência exata de palavras.
Na saída, você não recebe texto, mas um array de números — uma representação vetorial do fragmento de entrada. A janela de contexto é de 512 tokens, portanto, divida documentos longos em chunks com antecedência. Armazene os vetores resultantes no Qdrant, pgvector ou outro armazenamento vetorial e pesquise por similaridade de cosseno.
Raciocínios passo a passo não foram observados nos nossos dados para este modelo, e a sua tarefa não pressupõe isso: o embedder codifica o texto em um vetor em uma única passagem. Se o seu pipeline precisar de raciocínio e formulação de resposta, utilize um modelo de texto em conjunto — no BotHub, eles estão disponíveis na mesma interface e através da mesma API.
Chamada de funções e saída estruturada não foram observadas nos nossos dados para este modelo. O acesso é feito através da API única do BotHub compatível com OpenAI, portanto a resposta chega como um JSON comum com um array de vetores, que é fácil de transmitir diretamente para o seu sistema de indexação.
A aceitação de outros tipos de dados além de texto não foi observada nos nossos dados — trabalhe com fragmentos de texto. Se precisar vetorizar o conteúdo de imagens ou gravações de conversas, primeiro obtenha uma descrição de texto ou transcrição com um modelo adequado e, em seguida, envie o resultado para cá para indexação.
Não temos dados sobre os idiomas nos quais o modelo foi treinado, por isso é mais seguro verificar a qualidade no seu próprio corpus: reúna um pequeno conjunto de consultas com respostas corretas conhecidas e compare os resultados. O acesso ao BotHub funciona a partir da Rússia sem VPN ou cartões internacionais, com pagamento em rublos.