GPT OSS 120B Batch

нейросеть

GPT OSS 120B — открытая модель OpenAI с архитектурой Mixture-of-Experts для рассуждений и агентных задач.

Характеристики

Входные данные
текст, документы
Результат
текст
Размер контекста
131 072 токена
Макс. длина ответа
117 964 токена
Уровни рассуждений
низкий, средний, высокий
Возможности
рассуждения, вызов функций
3,49 ₽

Стоимость промпта

(за 1M токенов)

16,03 ₽

Стоимость ответа

(за 1M токенов)

*Указаны цены при использовании API через ECO-провайдеров.
bothub
BotHub: Experimente redes neurais gratuitamentebot

Caps restantes: 0 CAPS
Exemplo de código e API para GPT OSS 120B BatchOferecemos acesso completo à API OpenAI através do nosso serviço. Todos os nossos endpoints estão totalmente em conformidade com os endpoints OpenAI e podem ser usados tanto com plugins quanto ao desenvolver seu próprio software através do SDK.Criar chave API
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'gpt-oss-120b:batch',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'gpt-oss-120b:batch',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Как работает GPT OSS 120B Batch?

GPT OSS 120B — открытая языковая модель OpenAI на 117 миллиардов параметров с архитектурой Mixture-of-Experts: на каждый проход активируется около 5,1 миллиарда параметров, поэтому модель держит уровень рассуждений, оставаясь экономной в вычислениях. Она создавалась под задачи, где важны цепочки рассуждений, агентное поведение и стабильная работа в продакшене, а вариант batch рассчитан на пакетную обработку больших объёмов запросов. Через BotHub вы подключаетесь к ней без VPN и зарубежной карты, платите российской картой в рублях по факту за токены, а сами токены не сгорают. Единый OpenAI-совместимый API позволяет встроить модель в свой сервис и при необходимости переключиться на другую из более чем 250 доступных, не переписывая интеграцию, а данные передаются в зашифрованном виде и не сохраняются. Пригодится, когда нужно разобрать логи и объяснить ошибку в коде, собрать агента с вызовом функций и внешними инструментами, прогнать массовую классификацию документов, разложить STEM-задачу по шагам или обработать очередь однотипных запросов разом.

Частые вопросы о GPT OSS 120B Batch

Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.

gpt-oss-120b:batch — текстовая модель с режимом рассуждений: разбирает длинные документы, пишет и рефакторит код, ищет ошибки, решает задачи по математике и логике, готовит аналитику и выжимки. Контекстное окно 131 072 токена, поэтому в запрос поместятся большие файлы и целые ветки диалога.

До 117 964 токенов в одном ответе — это десятки страниц текста. Модель спокойно выдаёт большой документ, подробный разбор или объёмный модуль кода целиком, без дробления на части. Если ответ всё же обрывается, просто попросите продолжить с места остановки.

Да, рассуждения перед ответом заявлены в возможностях модели: прежде чем сформулировать результат, она разбирает условие по шагам. На задачах с вычислениями, логикой и отладкой кода это заметно помогает. Учтите, что размышления тоже расходуют токены вывода.

Да, модель поддерживает вызов функций и структурированный вывод в JSON — её удобно встраивать в агентов, чат-ботов и пайплайны, где ответ нужно сразу парсить. В BotHub это работает через единый OpenAI-совместимый API, так что другую модель потом подключите без переписывания интеграции.

Помимо текста модель принимает документы — загрузите файл и попросите разбор, сводку или ответы по содержимому. Работа с изображениями, аудио и видео в её возможностях не отмечена, поэтому для таких форматов переключитесь в том же окне BotHub на профильную модель.

Данных о качестве работы с конкретными языками у нас нет, поэтому обещать ничего не будем — проще проверить на своей задаче. Оплата идёт по факту за токены, и тот же промпт можно сразу отправить другой модели в одном окне и сравнить ответы.

Serviço de SuporteAberto das 10:00 às 18:00 (MSK)