NVIDIA Nemotron 3.5 Lightning
Red Neuronal
Nemotron 3.5 Lightning: modelo MoE abierto de NVIDIA con 3B de parámetros activos: API para tareas de agentes y alta carga
Longitud máxima de respuesta
(en tokens)
Tamaño del contexto
(en tokens)
Costo del prompt
(por 1M tokens)
Costo de la respuesta
(por 1M tokens)
Cómo funciona NVIDIA Nemotron 3.5 Lightning?
Nemotron 3.5 Lightning es un modelo abierto de NVIDIA basado en la arquitectura mixture-of-experts: de 30 mil millones de parámetros, se activan unos 3 mil millones por solicitud, lo que permite al modelo mantener un alto rendimiento y estar diseñado para cargas de trabajo de agentes y tareas especializadas. A través de BotHub, acceda sin VPN ni tarjetas extranjeras: pague con tarjeta rusa en rublos según el uso de tokens, sin suscripciones, y los tokens no utilizados no caducan. Más de 250 modelos en una sola ventana y una API compatible con OpenAI permiten cambiar entre ellos sin reescribir la integración; el tráfico está cifrado con AES-GCM, los datos no se guardan, y los equipos tienen acceso a contratos, facturas, gestión electrónica de documentos, panel de administración y límites. Utilice Lightning para agentes de varios pasos y cadenas de llamadas donde la velocidad de respuesta es crucial, para el procesamiento en flujo de solicitudes similares como clasificación, etiquetado y extracción de datos, para asistentes internos y prototipos de servicios, así como para pruebas de carga de sus propios prompts antes del despliegue.Preguntas frecuentes sobre NVIDIA Nemotron 3.5 Lightning
Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.
Es un modelo de texto de NVIDIA con un contexto de 262 144 tokens. Es adecuado para analizar documentos largos, escribir y refactorizar código, depuración, razonamiento y tareas STEM, así como para leer imágenes y crear escenarios de agentes con llamadas a herramientas.
Hasta 131 072 tokens por respuesta. Esto es suficiente para documentación técnica extensa, módulos de código grandes, análisis detallados de investigaciones o informes completos que no tendrá que ensamblar manualmente a partir de múltiples solicitudes.
Sí, el modo de razonamiento está confirmado. El modelo puede establecer pasos intermedios antes de la respuesta final, lo que ayuda en matemáticas, lógica, análisis de datos y análisis de código complejo, donde la secuencia de cálculos es importante, no una suposición rápida.
Sí, se admiten tanto la llamada a funciones (function calling) como la salida estructurada en JSON. El modelo se puede conectar a servicios y bases de datos externos, y el formato de respuesta predecible simplifica el análisis de datos en el lado de su aplicación sin analizadores adicionales.
Se aceptan imágenes y documentos como entrada: puede pedir que analice un diagrama, una captura de pantalla de una interfaz, un gráfico o un archivo de varias páginas. No hay información sobre audio o video en nuestros datos. El modelo devuelve el resultado en texto.
El modelo es multilingüe y puede trabajar con solicitudes en ruso en BotHub de la misma manera que con cualquier otra. Es fácil comprobar la calidad en su propia tarea: abra un chat, envíe un prompt típico y, si es necesario, compare el resultado con otro modelo en la misma ventana.