Ternary Bonsai 2 9B
нейросеть
Ternary Bonsai 2 9B — компактная открытая модель PrismML для диалогов, рассуждений и вызова функций
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 262 144 токена
- Макс. длина ответа
- 65 536 токенов
- Уровни рассуждений
- низкий, средний, высокий
- Возможности
- рассуждения, вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ternary-bonsai-2-9b',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ternary-bonsai-2-9b',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Ternary Bonsai 2 9B?
Ternary Bonsai 2 9B — компактная языковая модель с открытыми весами от PrismML, созданная для диалоговых продуктов, рассуждений и вызова функций. В основе лежит архитектура Qwen3.5, а веса хранятся в тернарном виде и упакованы по два бита, что заметно снижает требования к памяти при инференсе и упрощает запуск там, где важен каждый гигабайт. В BotHub модель доступна рядом с остальными: переключение не требует переписывать интеграцию, оплата идёт в рублях по факту расхода токенов, а доступ работает без VPN и зарубежной карты. Для команд, собирающих мультимодельные системы, пригодится единый OpenAI-совместимый API, а для компаний — договор, счёт и лимиты в админ-панели. Модель подойдёт для чат-ассистентов и внутренних ботов поддержки, для пошаговых рассуждений и разбора задач, для агентов с вызовом внешних инструментов, для прототипов на слабом железе и для сравнения ответов с более крупными моделями прямо в интерфейсе BotHub.Частые вопросы о Ternary Bonsai 2 9B
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Модель работает с текстом, документами и изображениями: разбирает содержимое файлов, отвечает на вопросы по ним, рассуждает перед ответом и вызывает внешние инструменты. Подойдёт для анализа документации, извлечения данных, написания и разбора кода, а также для задач, где нужен структурированный вывод в JSON по заданной схеме.
За один ответ модель выдаёт до 65 536 токенов, а суммарный контекст запроса и ответа достигает 262 144 токенов. На практике это объёмные документы и длинные ответы, но точный размер в словах или страницах зависит от языка и разметки, поэтому лучше ориентироваться на счётчик токенов.
Да, модель умеет рассуждать перед ответом: поддержка рассуждений отмечена в наших данных. Она выстраивает промежуточные шаги и лишь затем формулирует итог, что помогает в математике, задачах с несколькими условиями, разборе кода и проверке логики. На простых запросах это не требуется, и ответ можно получить быстрее.
Да, обе возможности отмечены в наших данных. Модель может обращаться к внешним функциям и возвращать ответ в структурированном виде, например в JSON по заданной схеме. Это удобно для интеграций: она сама решает, какой инструмент вызвать, а результат легко разобрать программно без ручной правки.
Изображения и документы модель принимает на вход — это отмечено в наших данных, так что можно загрузить картинку или файл и задать вопрос по содержимому. Приём аудио и видео в наших данных не отмечен, поэтому рассчитывать на него не стоит; уточните у поддержки, если это важно для вашей задачи.
Отдельной оценки качества русского языка в наших данных нет, поэтому утверждать что-то конкретное было бы нечестно. Проверьте модель на своих примерах: дайте типичные вопросы, фрагменты документов и ожидаемые формулировки ответов. Так вы увидите, хватает ли точности для вашей задачи, до того как встраивать её в продукт.