Llama 3.2 1B Instruct
Rede Neural
Llama 3.2 1B Instruct é um modelo de linguagem compacto da Meta com 1 bilhão de parâmetros para diálogos, sumarização e análise.
Comprimento máximo de resposta
(em tokens)
Tamanho do contexto
(em tokens)
Custo do prompt
(por 1M tokens)
Custo da resposta
(por 1M tokens)
Como funciona Llama 3.2 1B Instruct?
Llama 3.2 1B Instruct é um modelo de linguagem compacto da Meta com 1 bilhão de parâmetros. Seu objetivo não é a máxima profundidade de raciocínio, mas realizar tarefas de texto típicas de forma rápida e econômica: manter diálogos, resumir materiais longos, analisar e classificar mensagens recebidas. Seu tamanho reduzido proporciona alta velocidade de resposta onde o fluxo de solicitações é importante, em vez de uma única resposta complexa. No BotHub, o modelo está disponível sem VPN e sem cartão internacional: os tokens são pagos conforme o uso, sem assinatura, e não expiram. Uma API única compatível com OpenAI conecta o modelo com uma única solicitação, e você pode alternar para qualquer uma das mais de 250 redes neurais sem reescrever a integração; as conversas são criptografadas e todos os modelos estão reunidos em uma única janela. Útil se você faz sumarização em massa de e-mails, tickets e relatórios, monta uma primeira linha de suporte por chat, marca e classifica textos antes de enviá-los a um modelo maior, prepara descrições curtas e rascunhos em grandes volumes ou integra um assistente de texto acessível diretamente no seu produto.Perguntas frequentes sobre Llama 3.2 1B Instruct
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
O llama-3.2-1b-instruct é um modelo compacto da família Llama com ajuste instrucional. Ele atende a tarefas simples e em massa: respostas curtas, reformulação, extração de campos de documentos, rascunhos de descrições, classificação de solicitações. Para operações de fluxo, onde a velocidade e a previsibilidade são mais importantes do que a profundidade da análise, é uma opção funcional.
Máximo de 54.000 tokens em uma única resposta, o que equivale a algumas dezenas de páginas de texto. A janela de contexto do modelo é de 131.072 tokens, então você pode carregar materiais volumosos e ainda ter espaço para uma resposta detalhada sem interrupções no meio.
Não há um modo de raciocínio separado para este modelo em nossos dados. Mas você pode pedir diretamente no prompt para analisar a tarefa passo a passo e mostrar o raciocínio — para cadeias simples, isso é suficiente. Para cálculos complexos, mude para um modelo de raciocínio (reasoning) na mesma janela.
A chamada de funções e o modo JSON estrito não estão marcados para este modelo em nossos dados. Você pode solicitar uma resposta em formato JSON no próprio prompt, mas a estrutura deve ser verificada do seu lado. Se precisar de garantias, mude para um modelo com function calling declarado através da API única compatível com OpenAI do BotHub.
Imagens e documentos podem ser carregados: o modelo os aceita junto com o texto; digitalizações, diagramas, capturas de tela e arquivos de texto são aceitos. Áudio e vídeo não estão entre os formatos de entrada suportados — para eles, existem modelos separados no catálogo do BotHub. A resposta é fornecida em texto.
A família Llama 3.2 foi declarada pelo desenvolvedor como multilíngue, e o modelo funciona com o russo. No entanto, a versão é compacta, com apenas 1B de parâmetros, portanto, em textos longos e complexos, a qualidade é inferior à dos modelos maiores. Teste com sua tarefa — modelos maiores estão disponíveis na mesma janela.