NVIDIA Nemotron 3.5 Lightning
Rede Neural
Nemotron 3.5 Lightning é um modelo MoE aberto da NVIDIA com 3B de parâmetros ativos: API para tarefas de agentes e altas cargas
Especificações
- Entrada
- texto, imagens, documentos
- Saída
- texto
- Tamanho do contexto
- 262 144 tokens
- Comprimento máximo de resposta
- 235 929 tokens
- Níveis de raciocínio
- baixo, médio, alto
- Recursos
- raciocínio, chamada de funções
Custo do prompt
(por 1M tokens)
Custo da resposta
(por 1M tokens)
Como funciona NVIDIA Nemotron 3.5 Lightning?
O Nemotron 3.5 Lightning é um modelo aberto da NVIDIA baseado na arquitetura mixture-of-experts: de 30 bilhões de parâmetros, cerca de 3 bilhões são ativados por solicitação, permitindo alta taxa de transferência para tarefas de agentes e necessidades especializadas. Através do BotHub, você acessa sem VPN ou cartão internacional: pague com cartão russo em rublos conforme o uso, sem assinaturas, e os tokens não utilizados não expiram. Com mais de 250 modelos em uma única janela, a API compatível com OpenAI permite alternar entre eles sem reescrever a integração. O tráfego é criptografado via AES-GCM, os dados não são armazenados e as equipes têm acesso a contratos, faturas, EDI, painel administrativo e limites. Use o Lightning para agentes de várias etapas e cadeias de chamadas onde a velocidade de resposta é crucial, para processamento em fluxo de solicitações repetitivas como classificação, rotulagem e extração de dados, para assistentes internos e protótipos de serviços, bem como para testes de carga de seus próprios prompts antes da implementação.Perguntas frequentes sobre NVIDIA Nemotron 3.5 Lightning
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
É um modelo de texto da NVIDIA com um contexto de 262.144 tokens. É adequado para analisar documentos longos, escrever e refatorar código, depuração, raciocínio e tarefas STEM, além de ler imagens e construir cenários de agentes com chamada de ferramentas.
Até 131.072 tokens por resposta. Isso é suficiente para documentação técnica volumosa, grandes módulos de código, análise detalhada de pesquisas ou relatórios extensos que não precisarão ser montados manualmente a partir de várias solicitações separadas.
Sim, o modo de raciocínio está confirmado. O modelo pode construir etapas intermediárias antes da resposta final, o que ajuda em matemática, lógica, análise de dados e análise de código complexo, onde a sequência de cálculos é importante, e não apenas um palpite rápido.
Sim, tanto a chamada de funções quanto a saída estruturada em JSON são suportadas. O modelo pode ser conectado a serviços e bancos de dados externos, e o formato de resposta previsível simplifica a análise de dados no lado da sua aplicação sem parsers adicionais.
Imagens e documentos são aceitos como entrada: você pode pedir para analisar um diagrama, captura de tela de interface, gráfico ou arquivo de várias páginas. Não há informações sobre áudio e vídeo em nossos dados. O modelo retorna o resultado em texto.
O modelo é multilíngue, e você pode trabalhar com solicitações em russo no BotHub da mesma forma que com qualquer outra. A qualidade é fácil de verificar na sua tarefa: abra o chat, envie um prompt típico e, se necessário, compare o resultado com outro modelo na mesma janela.