Mixtral 8x22B Instruct
Rede Neural
Mixtral 8x22B Instruct — modelo MoE da Mistral com 39B parâmetros ativos de 141B, ideal para código e matemática.
Especificações
- Entrada
- texto, documentos
- Saída
- texto
- Tamanho do contexto
- 65 536 tokens
- Comprimento máximo de resposta
- 52 428 tokens
- Recursos
- chamada de funções
Custo do prompt
(por 1M tokens)
Custo da resposta
(por 1M tokens)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mixtral-8x22b-instruct',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mixtral-8x22b-instruct',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Como funciona Mixtral 8x22B Instruct?
Mixtral 8x22B Instruct é a versão instruct oficial do Mixtral 8x22B da Mistral, construída sobre uma arquitetura MoE esparsa: dos 141 bilhões de parâmetros, 39 bilhões são utilizados em cada solicitação, proporcionando alta eficiência computacional para um modelo deste tamanho. O fornecedor destaca a matemática e a programação como seus pontos fortes, e o ajuste fino (fine-tuning) de instrução garante o cumprimento preciso das ordens. No BotHub, o modelo está disponível sem VPN, com pagamento em rublos via cartões russos e cobrança por uso, sem expiração de tokens. Com mais de 250 modelos em uma única janela, é fácil comparar respostas, e a API compatível com OpenAI permite trocar de modelo sem reescrever a integração. Empresas podem se conectar via contrato com faturamento, EDI e painel administrativo com limites. Use o Mixtral 8x22B Instruct para escrever e refatorar código, analisar módulos de terceiros, encontrar erros, resolver problemas matemáticos passo a passo, criar assistentes via API para serviços internos ou processar grandes fluxos de solicitações de texto.Perguntas frequentes sobre Mixtral 8x22B Instruct
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
O mixtral-8x22b-instruct da Mistral AI trabalha com texto e documentos: escreve e edita materiais, analisa código, ajuda na refatoração e depuração, e responde com base em arquivos carregados. O contexto de 65.536 tokens permite manter instruções longas, correspondências e documentação técnica completa em trabalho.
O limite de uma resposta é de 52.428 tokens, o que equivale a dezenas de páginas de texto. É suficiente para um documento grande, uma análise detalhada ou um módulo de código volumoso em uma única passagem. Se o material não couber, peça para continuar: o modelo mantém um contexto de 65.536 tokens.
Em nossos dados, não há um modo de raciocínio separado marcado para o modelo, portanto, não prometeremos uma análise passo a passo oculta. Na prática, um truque simples ajuda: peça no prompt para decompor a solução em etapas e mostrar o raciocínio — as respostas sobre lógica e STEM tornam-se visivelmente mais precisas.
Sim. O modelo suporta chamada de funções e saída estruturada em JSON, por isso é fácil integrá-lo a agentes e serviços: ele mesmo escolhe a ferramenta necessária e fornece a resposta no esquema definido. No BotHub, isso funciona através de uma API única compatível com OpenAI.
Além de texto, o modelo aceita documentos — os arquivos podem ser carregados e analisados nativamente, sem conversão separada. Imagens, áudio e vídeo não são suportados como entrada em nossos dados: para essas tarefas no BotHub, mude para um modelo multimodal na mesma janela, sem alterar a integração.
Não há medições separadas para o russo nos dados do modelo, portanto, não fornecemos números. A Mistral AI desenvolve o Mixtral como uma linha multilíngue e, na maioria dos cenários, as solicitações em russo são processadas corretamente. A melhor maneira é testar em sua própria tarefa e comparar a resposta com outro modelo no BotHub.