GPT OSS 20B Batch
Red Neuronal
GPT OSS 20B: modelo abierto de OpenAI con arquitectura Mixture-of-Experts en modo batch para procesamiento masivo de tareas de texto.
Longitud máxima de respuesta
(en tokens)
Tamaño del contexto
(en tokens)
Costo del prompt
(por 1M tokens)
Costo de la respuesta
(por 1M tokens)
Cómo funciona GPT OSS 20B Batch?
GPT OSS 20B es un modelo abierto de OpenAI: 21 mil millones de parámetros, arquitectura Mixture-of-Experts, con 3,6 mil millones activos por pasada, lo que requiere menos cálculos que un modelo denso del mismo tamaño. La licencia Apache 2.0 elimina dudas sobre el uso de pesos. La variante batch está diseñada para procesamiento por lotes, no interactivo: las solicitudes se envían en cola y se devuelven en paquetes. En BotHub, el modelo está disponible sin VPN ni tarjetas extranjeras, pagando en rublos por uso real de tokens, sin suscripciones, y los tokens no utilizados no caducan. Una API única compatible con OpenAI da acceso a todo el catálogo, permitiendo cambiar de modelo sin reescribir la integración; el tráfico está cifrado mediante AES-GCM, y para empresas ofrecemos contratos, facturas, EDI y panel de administración con límites. El enfoque por lotes es ideal cuando el volumen es más importante que la respuesta instantánea: etiquetado y clasificación de grandes volúmenes de texto, generación de descripciones para catálogos, resumen de archivos y correspondencia, preparación de datasets sintéticos, ejecuciones offline y comparación de prompts.Preguntas frecuentes sobre GPT OSS 20B Batch
Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.
Es un modelo de texto con un contexto de 131 072 tokens y modo de razonamiento. Adecuado para trabajar con código, análisis de documentos, analítica, tareas STEM y escenarios de agentes con llamadas a herramientas. El modo batch es útil para procesar muchas solicitudes similares en lote.
El límite de salida es de hasta 117 964 tokens por respuesta, lo que cubre de sobra textos técnicos largos, refactorización extensa, análisis detallados e informes estructurados. El contexto total del diálogo, incluyendo la entrada, está limitado a 131 072 tokens.
Sí, el modo de razonamiento está confirmado: el modelo construye una cadena de pasos intermedios antes de la respuesta final. Esto ayuda notablemente en matemáticas, lógica, depuración de código y tareas que requieren considerar varias condiciones secuencialmente en lugar de responder de inmediato.
Sí, admite tanto llamadas a funciones (function calling) como salida estructurada en JSON. El modelo puede conectarse a herramientas y servicios externos, y a través de la API única compatible con OpenAI de BotHub, puede cambiar a otro modelo sin reescribir la integración.
Según nuestros datos, además de texto, se aceptan documentos; son fáciles de analizar, resumir y extraer datos de ellos. Para imágenes, audio y video, BotHub cuenta con modelos multimodales separados, disponibles en la misma interfaz.
El modelo está diseñado para el trabajo multilingüe, por lo que procesa solicitudes en ruso. Es mejor evaluar la calidad con sus propias tareas: en BotHub puede enviar el mismo prompt a varios modelos en una sola ventana y comparar los resultados.