Ernie Light DT 1.0
Red Neuronal
Ernie Light DT 1.0 es un modelo de texto compacto de Baidu basado en GLM abiertos con atención dispersa BSA patentada.
Características
- Entrada
- texto, documentos
- Salida
- texto
- Tamaño del contexto
- 1 024 000 tokens
- Longitud máxima de respuesta
- 131 072 tokens
- Niveles de razonamiento
- ninguno, bajo, alto, max
- Funciones
- razonamiento, llamada a funciones
Costo del prompt
(por 1M tokens)
Costo de la respuesta
(por 1M tokens)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ernie-light-dt-1.0-intl',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ernie-light-dt-1.0-intl',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Cómo funciona Ernie Light DT 1.0?
Ernie Light DT 1.0 es un modelo de texto ligero de Baidu, construido sobre modelos GLM abiertos y mejorado con desarrollos del modelo Lightning de la búsqueda de Baidu. Su característica distintiva es Baidu Sparse Attention: un mecanismo propio de atención dispersa orientado a ahorrar cómputo en secuencias largas. A través de BotHub, el modelo está disponible desde Rusia sin VPN ni tarjeta extranjera: pago en rublos según uso, los tokens no caducan y cambiar a otro modelo no requiere reescribir la integración. Para equipos, existe una API compatible con OpenAI, contrato, factura, EDI y límites en el panel de administración. El modelo es adecuado donde se necesita una respuesta rápida a un flujo de solicitudes: ayuda y búsqueda en bases de conocimiento, clasificación y etiquetado de texto, resumen de documentos largos, borradores de respuestas en soporte y procesamiento de flujo de consultas en chatbots. Si la tarea requiere razonamientos complejos, siempre hay otros modelos disponibles; puede comparar respuestas en una misma interfaz.Preguntas frecuentes sobre Ernie Light DT 1.0
Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.
Es un modelo de texto de Baidu: lee consultas y documentos, razona antes de responder y puede llamar a funciones. Su gran contexto permite cargar materiales extensos y trabajar con ellos en su totalidad. Es adecuado para análisis de documentos, revisión de código, redacción de textos y tareas que requieran razonamiento paso a paso y acceso a herramientas externas.
En una sola respuesta, el modelo puede generar hasta 131 072 tokens; esto es suficiente para un análisis largo, un documento extenso o un gran fragmento de código. El contexto de entrada es aún mayor, hasta 1 024 000 tokens, lo que significa que en una sola ventana cabe una gran cantidad de materiales junto con la tarea.
Sí, el razonamiento antes de responder es parte de las capacidades del modelo: puede pensar primero en el proceso de solución y luego formular el resultado. Esto es útil en tareas con varios pasos, como el análisis de condiciones, la planificación, las matemáticas y la depuración de código, donde es importante el proceso de pensamiento y no solo la línea final.
Sí, es compatible: la llamada a funciones y la salida estructurada en JSON están declaradas en el modelo. Esto significa que se puede integrar en un sistema donde la respuesta debe llegar en un formato analizable o donde el modelo accede a sus herramientas y API. A través de la API compatible con OpenAI de BotHub, esto se conecta sin necesidad de infraestructura adicional.
Según nuestros datos, además de texto, el modelo acepta documentos como entrada; se pueden cargar y analizar como parte de la tarea. Las imágenes, el audio y el video no están en la lista de formatos admitidos, por lo que no debe contar con ellos: para imágenes y video, hay modelos separados en BotHub.
No tenemos una evaluación directa de la calidad en ruso en nuestros datos, por lo que no prometeremos una precisión asombrosa. Vale la pena probarlo con sus propios textos: el modelo está disponible en BotHub junto a otros, el cambio toma un par de segundos y el pago es según el uso de tokens, sin suscripción.