GPT 4o Batch
нейросеть
GPT-4o Batch — мультимодальная модель OpenAI с приёмом текста и изображений: gpt-4o api для пакетной обработки задач.
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 128 000 токенов
- Макс. длина ответа
- 16 384 токена
- Возможности
- вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gpt-4o:batch',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gpt-4o:batch',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает GPT 4o Batch?
GPT-4o — мультимодальная модель OpenAI: на вход принимает текст и изображения, на выходе даёт текст и сохраняет уровень интеллекта линейки GPT-4 Turbo. Буква «o» в названии означает omni: одна модель закрывает и текстовые, и визуальные запросы, а вариант Batch рассчитан на пакетную обработку больших объёмов заданий, когда важнее пропускная способность, а не мгновенный ответ. В BotHub модель работает из России без VPN и зарубежной карты, а платите вы российской картой в рублях по факту за токены, без подписки. Обращения идут через единый OpenAI-совместимый API, так что переключиться на любую другую из более чем 250 моделей можно без переписывания интеграции, а переписка защищена шифрованием AES-GCM; компаниям доступны договор, счёт, ЭДО и админ-панель с лимитами на команду. Пригодится, чтобы массово классифицировать и размечать обращения клиентов, извлекать поля из сканов, скриншотов и таблиц, готовить описания для каталога товаров, разбирать и рефакторить код, а также собирать аннотированные датасеты для дальнейшего обучения.Частые вопросы о GPT 4o Batch
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Модель работает с текстом, изображениями и документами: вы можете загрузить PDF или скан, попросить разобрать данные, написать или отладить код, собрать отчёт. Контекст 128 000 токенов держит целую документацию в одном запросе, а вызов функций связывает модель с вашими сервисами. Подходит для пакетной обработки однотипных запросов через API.
Лимит вывода — 16 384 токена за один ответ, этого хватает на большую статью, подробный разбор документа или крупный модуль кода. Если нужно больше, разбивайте задачу на части: контекст 128 000 токенов позволяет передать уже написанное и продолжить без потери нити.
В наших данных отдельный режим рассуждения у этой модели не отмечен — обычно она отвечает сразу. Но вы можете попросить разложить решение по шагам, сверить варианты и показать выкладки: на задачах по логике, математике и разборе кода это заметно повышает точность.
Да, и то и другое: модель умеет вызывать функции и возвращать строгий JSON по вашей схеме. Это основа для агентов, парсеров и интеграций, где ответ сразу уходит в базу или сервис. Запросы идут через единый OpenAI-совместимый API BotHub, так что модель можно сменить без переписывания кода.
Изображения и документы — да: загружайте скриншоты, фотографии, схемы, PDF и файлы целиком, модель прочитает текст и опишет содержимое. Приём аудио и видео в наших данных не отмечен, поэтому для озвучки или расшифровки удобнее переключиться на профильную модель — в BotHub это делается в одном окне.
GPT-4o известна как мультиязычная модель, и с русскими запросами она работает уверенно: понимает формулировки, термины и контекст без перевода. Отдельных замеров по языкам в наших данных нет, поэтому проверьте на своей задаче — в BotHub это доступно без VPN и зарубежной карты, оплата в рублях.