Ernie Light DT 1.0
Rede Neural
Ernie Light DT 1.0 é um modelo de texto compacto da Baidu baseado em GLM aberto com atenção esparsa BSA proprietária.
Especificações
- Entrada
- texto, documentos
- Saída
- texto
- Tamanho do contexto
- 1 024 000 tokens
- Comprimento máximo de resposta
- 131 072 tokens
- Níveis de raciocínio
- nenhum, baixo, alto, max
- Recursos
- raciocínio, chamada de funções
Custo do prompt
(por 1M tokens)
Custo da resposta
(por 1M tokens)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ernie-light-dt-1.0-intl',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ernie-light-dt-1.0-intl',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Como funciona Ernie Light DT 1.0?
Ernie Light DT 1.0 é um modelo de texto leve da Baidu, construído com base em modelos GLM abertos e aprimorado com desenvolvimentos do modelo Lightning da pesquisa Baidu. Sua característica distintiva é a Baidu Sparse Attention: um mecanismo de atenção esparsa proprietário, focado na economia de computação em sequências longas. Através do BotHub, o modelo está disponível sem VPN ou cartões estrangeiros: pagamento em rublos conforme o uso, os tokens não expiram e a troca para outro modelo não exige reescrever a integração. Para equipes, há uma API compatível com OpenAI, contrato, fatura, EDI e limites no painel administrativo. O modelo é adequado onde é necessária uma resposta rápida a um fluxo de solicitações: ajuda e pesquisa em base de conhecimento, classificação e marcação de texto, resumo de documentos longos, rascunhos de respostas de suporte e processamento de fluxo de solicitações em chatbots. Se a tarefa exigir raciocínio complexo, outros modelos estão sempre disponíveis — você pode comparar as respostas na mesma interface.Perguntas frequentes sobre Ernie Light DT 1.0
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
Este é um modelo de texto da Baidu: ele lê solicitações e documentos, raciocina antes de responder e pode chamar funções. O grande contexto permite carregar materiais volumosos e trabalhar com eles na íntegra. Adequado para análise de documentos, análise de código, redação de textos e tarefas que exigem raciocínio passo a passo e acesso a ferramentas externas.
Em uma única resposta, o modelo pode gerar até 131.072 tokens — o suficiente para uma análise longa, um documento volumoso ou um grande fragmento de código. O contexto de entrada é ainda maior, até 1.024.000 tokens, o que significa que um conjunto muito grande de materiais cabe em uma única janela junto com a tarefa.
Sim, o raciocínio antes da resposta faz parte das capacidades do modelo: ele pode primeiro pensar no processo de solução e depois formular o resultado. Isso é útil em tarefas com várias etapas — análise de condições, planejamento, matemática e depuração de código, onde o processo de pensamento é importante, não apenas a linha final.
Sim, suporta: a chamada de funções e a saída estruturada em JSON são declaradas no modelo. Isso significa que ele pode ser integrado a um sistema onde a resposta deve chegar em um formato analisável ou onde o modelo acessa suas ferramentas e API. Através da API compatível com OpenAI do BotHub, isso é conectado sem infraestrutura separada.
De acordo com nossos dados, além de texto, o modelo aceita documentos na entrada — eles podem ser carregados e analisados como parte da tarefa. Imagens, áudio e vídeo não estão listados nos formatos suportados, portanto, não conte com eles: para imagens e vídeos, existem modelos separados no BotHub.
Não temos uma avaliação direta da qualidade em russo em nossos dados, por isso não prometeremos uma precisão altíssima. Vale a pena testar com seus próprios textos: o modelo está disponível no BotHub junto com outros, a troca leva alguns segundos e o pagamento é feito conforme o uso por tokens, sem assinatura.