Ernie Light DT 1.0
нейросеть
Ernie Light DT 1.0 — компактная текстовая модель Baidu на открытых GLM с фирменным разреженным вниманием BSA.
Характеристики
- Входные данные
- текст, документы
- Результат
- текст
- Размер контекста
- 1 024 000 токенов
- Макс. длина ответа
- 131 072 токена
- Уровни рассуждений
- без рассуждений, низкий, высокий, max
- Возможности
- рассуждения, вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ernie-light-dt-1.0-intl',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ernie-light-dt-1.0-intl',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Ernie Light DT 1.0?
Ernie Light DT 1.0 — облегчённая текстовая модель Baidu, собранная на базе открытых моделей GLM и дополненная наработками Lightning-модели из поиска Baidu. Её отличительная черта — Baidu Sparse Attention: собственный механизм разреженного внимания, ориентированный на экономию вычислений при длинных последовательностях. Через BotHub модель доступна из России без VPN и зарубежной карты: оплата в рублях по факту, токены не сгорают, а переключение на другую модель не требует переписывать интеграцию. Для команд есть единый OpenAI-совместимый API, договор, счёт, ЭДО и лимиты в админ-панели. Модель уместна там, где нужен быстрый отклик на поток запросов: справка и поиск по базе знаний, классификация и разметка текста, сжатие длинных документов в выжимку, черновики ответов в поддержке и потоковая обработка обращений в чат-ботах. Если задача требует сложных рассуждений, рядом всегда есть другие модели — сравнить ответы можно в одном интерфейсе.Частые вопросы о Ernie Light DT 1.0
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Это текстовая модель Baidu: она читает запросы и документы, рассуждает перед ответом и умеет вызывать функции. Большой контекст позволяет загружать объёмные материалы и работать с ними целиком. Подойдёт для анализа документов, разбора кода, написания текстов и задач, где нужны пошаговые рассуждения и обращение к внешним инструментам.
За один ответ модель может выдать до 131 072 токенов — этого хватает на длинный разбор, объёмный документ или большой фрагмент кода. Входной контекст ещё больше, до 1 024 000 токенов, то есть в одно окно помещается очень крупный массив материалов вместе с заданием.
Да, рассуждения перед ответом входят в возможности модели: она может сначала продумать ход решения, а затем сформулировать итог. Это полезно в задачах с несколькими шагами — разборе условий, планировании, математике и отладке кода, где важен сам ход мысли, а не только финальная строка.
Да, поддерживает: вызов функций и структурированный вывод в JSON у модели заявлены. Значит, её можно встроить в систему, где ответ должен приходить в разбираемом виде или где модель обращается к вашим инструментам и API. Через OpenAI-совместимый API BotHub это подключается без отдельной инфраструктуры.
По нашим данным, на вход кроме текста модель принимает документы — их можно загружать и разбирать в рамках задачи. Изображения, аудио и видео в списке поддерживаемых форматов не заявлены, поэтому рассчитывать на них не стоит: для картинок и видео в BotHub есть отдельные модели.
Прямой оценки качества на русском языке в наших данных нет, поэтому обещать заоблачную точность не станем. Стоит проверить на своих текстах: модель доступна в BotHub рядом с другими, переключение занимает пару секунд, а оплата идёт по факту за токены, без подписки.