Llama Guard 4 12B
Rede Neural
Llama Guard 4 12B é um modelo multimodal da Meta para classificação de conteúdo, API Llama Guard 4 para verificar solicitações e respostas LLM.
Especificações
- Entrada
- texto, imagens, documentos
- Saída
- texto
- Tamanho do contexto
- 163 840 tokens
- Comprimento máximo de resposta
- 16 384 tokens
Custo do prompt
(por 1M tokens)
Custo da resposta
(por 1M tokens)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'llama-guard-4-12b',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'llama-guard-4-12b',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Como funciona Llama Guard 4 12B?
Llama Guard 4 é um classificador de segurança da Meta com 12 bilhões de parâmetros, baseado no Llama 4 Scout. O modelo não conduz diálogos, mas emite um veredito: rotula o material por categorias de risco e atua como um filtro em ambos os lados da conversa — verificando tanto a solicitação do usuário quanto a resposta do modelo principal. A multimodalidade permite analisar não apenas texto, mas também imagens, cobrindo a moderação de conteúdo misto em um único fluxo. No BotHub, o Llama Guard 4 é conectado via uma API única compatível com OpenAI junto com outros modelos, para que a camada de filtragem e a generativa vivam na mesma integração, e a troca de modelo não exija reescrever o código. O acesso está aberto a partir da Rússia sem VPN ou cartão estrangeiro, pague em rublos pelo uso real de tokens, e a correspondência é criptografada. Para equipes, há contrato, fatura e painel administrativo com limites. Útil para proteger chatbots de suporte, filtrar prompts de risco em produtos com entrada do usuário, rotular datasets, auditar logs de diálogo e verificar imagens carregadas.Perguntas frequentes sobre Llama Guard 4 12B
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
O llama-guard-4-12b é um modelo da Meta para classificação de segurança de conteúdo: ele avalia solicitações e respostas e as marca como permitidas ou violadoras de políticas. Adequado para moderação de entrada do usuário, filtragem de saída de outros modelos, bem como verificação de documentos e imagens antes da publicação.
Em uma única resposta, o modelo gera até 16.384 tokens, e a janela de contexto é de 163.840 tokens, então você pode enviar um longo diálogo ou documento inteiro para verificação. Na prática, a resposta é curta: o modelo retorna um veredito compacto, não um texto longo.
Em nossos dados, um modo de raciocínio separado para o llama-guard-4-12b não está indicado. É um classificador: ele analisa o fragmento enviado e emite imediatamente um veredito indicando a categoria de violação, sem longas cadeias de pensamento. Se precisar de raciocínio passo a passo, no BotHub você pode alternar para outro modelo na mesma janela.
Em nossos dados, chamada de funções e saída JSON estruturada não estão indicadas para o llama-guard-4-12b. No entanto, a resposta do modelo é concisa e facilmente analisada pelo seu serviço. A conexão é feita através da API única compatível com OpenAI do BotHub, portanto, integrar a verificação ao seu pipeline existente é simples.
Imagens e documentos são suportados como entrada junto com o texto, então você pode enviar imagens e arquivos para verificação em uma única solicitação. Áudio e vídeo não estão declarados em nossos dados. A geração de imagens ou som não é prevista aqui: apenas texto na saída.
Não temos dados sobre os idiomas com os quais o llama-guard-4-12b trabalha e não vamos especular. Teste o modelo com seus próprios exemplos: no BotHub, o acesso está aberto a partir da Rússia sem VPN ou cartão estrangeiro, e o pagamento é feito pelo uso real de tokens.