Mi:dm K 3.0 Pro
Red Neuronal
Mi:dm K 3.0 Pro es un modelo de razonamiento de KT de 120B de parámetros con arquitectura híbrida: mezcla de expertos, capas Mamba y atención.
Características
- Entrada
- texto, documentos
- Salida
- texto
- Tamaño del contexto
- 261 795 tokens
- Longitud máxima de respuesta
- 235 615 tokens
- Niveles de razonamiento
- bajo, medio, alto
- Funciones
- razonamiento
Costo del prompt
(por 1M tokens)
Costo de la respuesta
(por 1M tokens)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'midm-k-3.0-pro',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'midm-k-3.0-pro',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Cómo funciona Mi:dm K 3.0 Pro?
Mi:dm K 3.0 Pro es un modelo de razonamiento de KT basado en una mezcla de expertos: 120 mil millones de parámetros, de los cuales 12 mil millones están activos en cada consulta. Este esquema mantiene la profundidad del razonamiento sin ejecutar toda la red. La arquitectura es híbrida: combina capas Mamba, un mecanismo de mezcla de expertos y atención, donde diferentes tipos de capas se encargan de distintos aspectos del procesamiento de secuencias. En BotHub, el modelo está disponible sin VPN ni tarjetas extranjeras, el pago se realiza en rublos según el uso de tokens y el saldo no caduca. Puede cambiar a Mi:dm K 3.0 Pro en la misma ventana donde trabaja con otros modelos, y conectarlo a sistemas multimodelo a través de una API compatible con OpenAI sin reescribir la integración. El modelo es útil para tareas lógicas de varios pasos y análisis de condiciones donde el proceso de razonamiento es importante; para tareas académicas y de investigación STEM; para analizar documentos extensos y detectar conexiones entre fragmentos; y para escenarios corporativos internos con contratos, facturas, gestión de documentos electrónicos y límites para empleados.Preguntas frecuentes sobre Mi:dm K 3.0 Pro
Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.
midm-k-3.0-pro es un modelo de texto con una ventana de contexto de unos 262 mil tokens. Lee documentos y consultas de texto, y puede razonar antes de responder. Es adecuado para analizar materiales extensos, trabajar con código, analizar instrucciones y escribir textos largos. Disponible en BotHub junto con otros modelos, sin VPN ni tarjetas extranjeras.
En una sola respuesta, el modelo puede generar hasta 235,615 tokens; es una capacidad muy grande, suficiente para documentos largos y materiales detallados. El contexto de entrada también es amplio, unos 262 mil tokens, por lo que el modelo mantendrá todo el texto necesario en su campo de visión.
Sí, la capacidad de razonar antes de responder está marcada en nuestros datos como una característica confirmada del modelo. Puede pensar en el proceso de solución paso a paso y luego dar el resultado, lo cual es útil en tareas de varios pasos, análisis de documentos y revisión de código. Cómo se ve esto exactamente en la respuesta depende de su consulta.
En nuestros datos no se indica soporte para llamadas a funciones ni salida estructurada en JSON, por lo que no podemos confirmarlo; esto no significa que no existan, simplemente no las hemos registrado. Si la salida JSON es crítica para su proyecto, verifíquelo en la práctica y tenga a mano otro modelo: en BotHub, cambiar de modelo toma solo un clic.
Según nuestros datos, el modelo acepta texto y documentos como entrada. La carga de imágenes, audio y video no está indicada, por lo que no podemos confirmarlo; verifíquelo en la práctica. Para tales tareas, BotHub tiene modelos de otros tipos, y puede cambiar a ellos en la misma ventana.
No tenemos datos confirmados por separado sobre la calidad del idioma ruso; esto no se indica en la descripción del modelo. El modelo trabaja con texto y documentos sin estar vinculado a un idioma en nuestros materiales, por lo que es mejor probarlo con sus propios ejemplos: una prueba corta mostrará más que las promesas generales.