Gemma 2 27B
нейросеть
Gemma 2 27B — открытая языковая модель Google для текстовых задач, доступная через единый API BotHub.
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 8 192 токена
- Макс. длина ответа
- 2 048 токенов
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gemma-2-27b-it',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gemma-2-27b-it',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Gemma 2 27B?
Gemma 2 27B — открытая модель Google на 27 миллиардов параметров, собранная на тех же исследованиях и технологиях, что легли в основу семейства Gemini. Это инструктивная версия, ориентированная на выполнение задач по текстовому описанию, поэтому её берут там, где нужна предсказуемая работа с текстом. Через BotHub доступ открывается без VPN и зарубежной карты: платите российской картой в рублях по факту за токены, подписка не нужна, а токены не сгорают. Обращения идут по единому OpenAI-совместимому API, так что заменить Gemma 2 27B на другую из более чем 250 моделей можно без переписывания интеграции, а трафик шифруется по AES-GCM. Пригодится, если вы готовите черновики текстов и рассылок, сжимаете длинные документы до сути, отвечаете на типовые вопросы в чат-боте или прототипируете сервис на открытой модели. Компаниям BotHub оформляет договор, счёт и ЭДО, а админ-панель с лимитами держит расходы команды под контролем.Частые вопросы о Gemma 2 27B
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Gemma 2 27B it — инструктивная текстовая модель от Google. Подойдёт для переписки, черновиков, выжимок, ответов на вопросы, базовой работы с кодом и разбора документов. На вход можно подавать изображения. Контекстное окно — 8192 токена, поэтому комфортнее работать с короткими и средними материалами.
За один ответ модель выдаёт до 2048 токенов — этого хватает на короткую статью, письмо или раздел документа. Если нужен текст длиннее, разбивайте задачу на части и просите продолжение следующим сообщением, помня про общее окно в 8192 токена.
Отдельный режим рассуждений в наших данных не отмечен, поэтому обещать скрытые размышления не будем. Но вы можете прямо попросить расписать решение по шагам — такой приём помогает на логических и учебных задачах. Для тяжёлых цепочек выводов удобнее переключиться на reasoning-модель.
В наших данных поддержка вызова функций и строгого JSON-режима не отмечена, поэтому гарантий не даём. Схему можно описать в промпте и попросить ответ только в JSON, но валидацию закладывайте на своей стороне. Если инструменты критичны, единый OpenAI-совместимый API BotHub позволяет сменить модель без переписывания интеграции.
Изображения и документы — да, их можно прикладывать к запросу: модель разберёт скан, таблицу или схему и опишет содержимое текстом. Приём аудио и видео в наших данных не отмечен. Учитывайте окно в 8192 токена: объёмные файлы лучше делить на части.
Про языки промптов и ответов в наших данных ничего не указано, поэтому заранее обещать качество не станем. Проверить проще практикой: отправьте свой типовой запрос и сравните с другой моделью — переключение в BotHub занимает пару секунд, оплата идёт по факту в рублях.