Характеристики
- Входные данные
- текст, документы
- Результат
- текст
- Размер контекста
- 32 000 токенов
- Макс. длина ответа
- 32 000 токенов
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'YandexGPT',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'YandexGPT',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает YandexGPT?
Частые вопросы о YandexGPT
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
YandexGPT работает с текстом: пишет и переписывает, делает выжимки из больших материалов, отвечает на вопросы по загруженным документам, помогает с деловой перепиской, инструкциями и учебными текстами. Через BotHub модель открывается в одном окне с другими, без VPN и зарубежной карты, оплата идёт по факту за токены, которые не сгорают.
За один ответ модель выдаёт до 32 000 токенов, и такой же объём — 32 000 токенов — доступен ей как контекст. Токены не равны словам: в русском тексте одно слово обычно распадается на несколько токенов, поэтому реальный объём готового текста будет меньше и зависит от формулировок.
Отдельного режима рассуждений в наших данных о модели нет — эта возможность там не отмечена. Это не значит, что её нет: подтвердить её по данным страницы нельзя. На практике модель строит ответ по запросу и контексту. Если нужна пошаговая логика с разбором, результат удобно сравнить с другими моделями в BotHub, переключаясь в одном окне.
В наших данных вызов функций и структурированный вывод JSON не отмечены, поэтому обещать их мы не будем. Если для системы нужен строгий формат ответа, в BotHub можно подключить другую модель через единый OpenAI-совместимый API — интеграцию переписывать не придётся.
По нашим данным YandexGPT принимает на вход текст и документы — то есть файлы с текстом удобно загружать и задавать по ним вопросы. Про изображения, аудио и видео в данных модели ничего не отмечено, так что подтвердить их приём нельзя. Уточнить это стоит в документации модели.
YandexGPT — модель Яндекса, и русский язык для неё один из основных: она уверенно ведёт связный текст, деловую переписку и инструкции на русском. В данных страницы язык промтов и ответов отдельно не указан, поэтому советуем проверить результат на своих примерах — благо в BotHub рядом доступны другие модели.