GPT 3.5 Turbo Batch
нейросеть
GPT 3.5 Turbo API — быстрая модель OpenAI для чата, генерации текста и работы с кодом.
Макс. длина ответа
(в токенах)
Размер контекста
(в токенах)
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
Как работает GPT 3.5 Turbo Batch?
GPT 3.5 Turbo — быстрая модель OpenAI, которая понимает и генерирует естественный язык и код; обучающие данные охватывают период до сентября 2021 года. Модель оптимизирована под диалог и классическое продолжение текста, поэтому подходит задачам, где важнее скорость отклика, чем длинные рассуждения. Вариант batch предназначен для пакетной обработки запросов. В BotHub она открыта без VPN и зарубежной карты: оплата российской картой в рублях и по факту, за израсходованные токены, которые не сгорают. В соседней вкладке того же окна ждут другие модели, а единый OpenAI-совместимый API позволяет переключиться на любую из них, не переписывая интеграцию; переписка шифруется AES-GCM, а для компаний есть договор, счёт и админ-панель. Берут GPT 3.5 Turbo для чат-ботов и первой линии поддержки, для массовой обработки текстов вроде описаний, писем и кратких сводок, для подсказок по коду и разбора ошибок, а также для черновиков и переформулировок, когда важны объём и темп.Частые вопросы о GPT 3.5 Turbo Batch
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
gpt-3.5-turbo:batch — текстовая модель с контекстом 16385 токенов. Она подходит для генерации и редактуры текстов, ответов на вопросы, работы с кодом и документами: на вход можно подавать изображения и файлы, а на выходе получать готовый результат через привычный интерфейс.
За один ответ модель выдаёт до 4096 токенов — это примерно несколько страниц текста. Если нужен объёмный материал, разбивайте задачу на части и продолжайте генерацию: общий контекст в 16385 токенов позволяет держать в диалоге и исходные данные, и уже написанные фрагменты.
Отдельный режим пошаговых рассуждений в наших данных не отмечен, поэтому модель отвечает сразу. Если задача требует логики, попросите в промте разобрать её по шагам — это обычно повышает качество. Для сложных рассуждений в BotHub можно переключиться на другую модель в том же окне.
Да. Модель поддерживает вызов функций и структурированный вывод в JSON, поэтому её удобно встраивать в сценарии с внешними сервисами и базами. Через единый OpenAI-совместимый API BotHub вы описываете инструменты один раз, а модель возвращает аргументы в предсказуемом формате.
Изображения и документы — да, они указаны среди поддерживаемых входных форматов, так что можно прислать файл или картинку и попросить разобрать содержимое. Аудио и видео на вход в наших данных не отмечены; для таких задач в BotHub есть профильные модели рядом, в одном интерфейсе.
Данных о языках у нас нет, поэтому точных обещаний давать не будем — проверьте модель на своих формулировках и типичных задачах. Сам BotHub работает из России без VPN и зарубежной карты, оплата в рублях по факту за токены, так что тест обойдётся без лишних шагов.