Ternary Bonsai 2 9B

нейросеть

Ternary Bonsai 2 9B — компактная открытая модель PrismML для диалогов, рассуждений и вызова функций

Характеристики

Входные данные
текст, изображения, документы
Результат
текст
Размер контекста
262 144 токена
Макс. длина ответа
65 536 токенов
Уровни рассуждений
низкий, средний, высокий
Возможности
рассуждения, вызов функций
9,43 ₽

Стоимость промпта

(за 1M токенов)

15,32 ₽

Стоимость ответа

(за 1M токенов)

*Указаны цены при использовании API через ECO-провайдеров.
bothub
BotHub: Попробуйте нейросети бесплатноbot

Осталось Caps: 0 CAPS
Пример кода и API для Ternary Bonsai 2 9BМы предлагаем полный доступ к API OpenAI через наш сервис. Все наши конечные точки полностью соответствуют конечным точкам OpenAI, их можно использовать как с плагинами, так и при разработке собственного программного обеспечения через SDK.Создать API ключ
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'ternary-bonsai-2-9b',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'ternary-bonsai-2-9b',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Как работает Ternary Bonsai 2 9B?

Ternary Bonsai 2 9B — компактная языковая модель с открытыми весами от PrismML, созданная для диалоговых продуктов, рассуждений и вызова функций. В основе лежит архитектура Qwen3.5, а веса хранятся в тернарном виде и упакованы по два бита, что заметно снижает требования к памяти при инференсе и упрощает запуск там, где важен каждый гигабайт. В BotHub модель доступна рядом с остальными: переключение не требует переписывать интеграцию, оплата идёт в рублях по факту расхода токенов, а доступ работает без VPN и зарубежной карты. Для команд, собирающих мультимодельные системы, пригодится единый OpenAI-совместимый API, а для компаний — договор, счёт и лимиты в админ-панели. Модель подойдёт для чат-ассистентов и внутренних ботов поддержки, для пошаговых рассуждений и разбора задач, для агентов с вызовом внешних инструментов, для прототипов на слабом железе и для сравнения ответов с более крупными моделями прямо в интерфейсе BotHub.

Частые вопросы о Ternary Bonsai 2 9B

Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.

Модель работает с текстом, документами и изображениями: разбирает содержимое файлов, отвечает на вопросы по ним, рассуждает перед ответом и вызывает внешние инструменты. Подойдёт для анализа документации, извлечения данных, написания и разбора кода, а также для задач, где нужен структурированный вывод в JSON по заданной схеме.

За один ответ модель выдаёт до 65 536 токенов, а суммарный контекст запроса и ответа достигает 262 144 токенов. На практике это объёмные документы и длинные ответы, но точный размер в словах или страницах зависит от языка и разметки, поэтому лучше ориентироваться на счётчик токенов.

Да, модель умеет рассуждать перед ответом: поддержка рассуждений отмечена в наших данных. Она выстраивает промежуточные шаги и лишь затем формулирует итог, что помогает в математике, задачах с несколькими условиями, разборе кода и проверке логики. На простых запросах это не требуется, и ответ можно получить быстрее.

Да, обе возможности отмечены в наших данных. Модель может обращаться к внешним функциям и возвращать ответ в структурированном виде, например в JSON по заданной схеме. Это удобно для интеграций: она сама решает, какой инструмент вызвать, а результат легко разобрать программно без ручной правки.

Изображения и документы модель принимает на вход — это отмечено в наших данных, так что можно загрузить картинку или файл и задать вопрос по содержимому. Приём аудио и видео в наших данных не отмечен, поэтому рассчитывать на него не стоит; уточните у поддержки, если это важно для вашей задачи.

Отдельной оценки качества русского языка в наших данных нет, поэтому утверждать что-то конкретное было бы нечестно. Проверьте модель на своих примерах: дайте типичные вопросы, фрагменты документов и ожидаемые формулировки ответов. Так вы увидите, хватает ли точности для вашей задачи, до того как встраивать её в продукт.

Servicio de SoporteAbierto de 10:00 a 18:00 MSK