Command R Plus 08 2024
Red Neuronal
Command R Plus 08 2024 es el modelo actualizado de Cohere con mayor rendimiento, disponible en BotHub a través de una API unificada.
Características
- Entrada
- texto, imágenes, documentos
- Salida
- texto
- Tamaño del contexto
- 128 000 tokens
- Longitud máxima de respuesta
- 4 000 tokens
- Funciones
- llamada a funciones
Costo del prompt
(por 1M tokens)
Costo de la respuesta
(por 1M tokens)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'command-r-plus-08-2024',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'command-r-plus-08-2024',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Cómo funciona Command R Plus 08 2024?
Command R Plus 08 2024 es una actualización de Command R+ de Cohere: aproximadamente un 50% más de rendimiento y un 25% menos de latencia que la versión anterior con los mismos requisitos de hardware, por lo que las respuestas llegan más rápido y el flujo de solicitudes es más constante. En BotHub, el modelo está disponible sin VPN ni tarjetas extranjeras: paga con tarjeta rusa en rublos y solo por los tokens utilizados, que no caducan. Acceda a más de 250 modelos en una sola ventana para comparar respuestas, y utilice nuestra API compatible con OpenAI para cambiar de modelo sin reescribir la integración. El tráfico está cifrado mediante AES-GCM y los equipos disponen de contratos, facturas, gestión electrónica de documentos y un panel de administración con límites. Es ideal para crear asistentes de soporte con respuesta rápida, procesar documentos y resúmenes, escribir y analizar código, preparar borradores de texto en lote o comparar modelos antes de implementarlos en producción.Preguntas frecuentes sobre Command R Plus 08 2024
Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.
command-r-plus-08-2024 de Cohere es un modelo de texto con un contexto de 128 000 tokens. Analiza documentos largos y responde preguntas sobre ellos, ayuda con código y análisis, y llama a herramientas externas. Es adecuado para escenarios RAG, trabajo con bases de conocimiento y sistemas de agentes mediante una API unificada.
En una sola respuesta, el modelo genera hasta 4000 tokens, lo que equivale aproximadamente a varias páginas de texto. Sin embargo, puede leer mucho más: el contexto es de 128 000 tokens. Si necesita un documento extenso, solicítelo por partes o pídale que continúe desde donde se detuvo.
No hemos observado un modo de razonamiento independiente antes de la respuesta en nuestros datos. Pero puede configurarlo mediante un prompt: pídale que descomponga la tarea en pasos, anote las condiciones iniciales y solo entonces proporcione una conclusión. Esto mejora notablemente la precisión en lógica compleja y cálculos.
Sí, la llamada a funciones y la salida estructurada en JSON son capacidades confirmadas de este modelo. Selecciona la herramienta necesaria, pasa los argumentos y devuelve una respuesta según el esquema definido. A través de la API de BotHub compatible con OpenAI, es fácil integrar esta lógica en agentes y backends, sin necesidad de VPN ni tarjetas extranjeras.
Además de texto, el modelo acepta imágenes y documentos: cargue un archivo o imagen y pídale que analice el contenido, extraiga datos o haga un resumen. No se admite audio ni video como entrada; para ello, BotHub cuenta con modelos específicos a los que puede cambiar en la misma ventana.
No hemos registrado el idioma de los prompts y respuestas en nuestros datos, por lo que no haremos promesas. Es más fiable probarlo con su propia tarea: envíe una solicitud típica, evalúe el resultado y, si no le satisface, cambie a otro modelo en la misma ventana sin reescribir la integración.