Inkling 2 Small
Red Neuronal
Inkling 2 Small es un modelo MoE multimodal de Thinking Machines Lab para razonamiento y trabajo con diversos tipos de datos.
Características
- Entrada
- texto, imágenes, documentos
- Salida
- texto
- Tamaño del contexto
- 1 048 576 tokens
- Longitud máxima de respuesta
- 131 072 tokens
- Niveles de razonamiento
- mínimo, bajo, medio, alto, max
- Funciones
- razonamiento, llamada a funciones
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small:free',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small:free',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Cómo funciona Inkling 2 Small?
Inkling 2 Small es un modelo de razonamiento multimodal de Thinking Machines Lab basado en una arquitectura dispersa de mezcla de expertos (MoE): 17B de parámetros activos de un total de 594B. Es la primera incorporación de la segunda generación de la línea Inkling, centrada en el razonamiento de varios pasos y el trabajo combinado con texto e imágenes en una sola consulta. A través de BotHub, el modelo está disponible desde Rusia sin VPN ni tarjeta extranjera: el pago se realiza en rublos por tokens que no caducan, y cambiar entre más de 250 modelos toma un solo clic, permitiendo comparar respuestas en una misma ventana. Para equipos hay contratos, facturas, intercambio electrónico de documentos y límites; para desarrollo, una API compatible con OpenAI, y los datos están protegidos con cifrado AES-GCM y no se almacenan. Úselo para análisis donde necesite comparar una tabla con un gráfico o escanear un documento y sacar conclusiones; para cálculos paso a paso y verificación de hipótesis donde es importante mostrar el proceso de razonamiento; para crear prototipos de asistentes de varios pasos; y para etiquetar y describir imágenes junto con explicaciones de texto. Comience con una consulta de prueba: recargue su saldo y compare Inkling 2 Small con su modelo habitual en la interfaz de BotHub.Preguntas frecuentes sobre Inkling 2 Small
Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.
El modelo trabaja con texto, documentos e imágenes: analiza el contenido de archivos, responde preguntas sobre ellos y genera texto. Gracias al razonamiento previo a la respuesta, es adecuado para análisis, trabajo con código y revisión de materiales extensos. Un contexto de hasta 1,048,576 tokens permite cargar documentos grandes completos sin dividirlos.
En una sola respuesta, el modelo puede generar hasta 131,072 tokens, el volumen de un documento técnico completo o un capítulo grande. Esta capacidad es suficiente para no dividir una tarea grande en partes y obtener un texto coherente en una sola pasada.
Sí, se admite el razonamiento antes de responder; este punto está marcado en los datos del modelo. Puede desglosar la tarea paso a paso antes de dar el resultado final. Esto ayuda en preguntas de varios pasos donde el orden de cálculo es importante, y al analizar código.
Sí, se admiten llamadas a funciones y salida estructurada en JSON. Esto significa que el modelo puede integrarse en una aplicación o script de automatización: devolverá una respuesta en el formato que su código aceptará. Es útil para extraer datos de documentos y crear cadenas de consultas.
Sí, se pueden enviar imágenes y documentos como entrada: el modelo leerá el archivo y responderá según su contenido. Es útil para analizar informes, tablas y escaneos. La recepción de audio y video no está marcada en nuestros datos; este punto debe verificarse por separado antes de la compra.
Nuestros datos no incluyen una evaluación de la calidad de las respuestas del modelo en ruso, por lo que no podemos prometer nada específico. El modelo trabaja con texto en varios idiomas, pero es mejor verificar qué tan bien maneja la estilística rusa con sus propias tareas: pídale que resuma o edite su texto.