Command R 08 2024
нейросеть
Command R 08 2024 — языковая модель Cohere для RAG, вызова инструментов и кода, доступная через command r api в BotHub.
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 128 000 токенов
- Макс. длина ответа
- 4 000 токенов
- Возможности
- вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'command-r-08-2024',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'command-r-08-2024',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Command R 08 2024?
Command R 08 2024 — обновление модели Command R от Cohere: разработчики улучшили мультиязычный RAG и работу с инструментами, а также подтянули математику, код и рассуждения. Это рабочая лошадка для сценариев, где модель должна опираться на ваши документы и вызывать внешние функции, а не просто поддерживать диалог. В BotHub она доступна без VPN и зарубежной карты, с оплатой российскими картами по факту — за использованные токены, которые не сгорают. Единый OpenAI-совместимый API позволяет подключить Command R 08 2024 к своему сервису и при необходимости переключиться на другую из более чем 250 моделей, не переписывая интеграцию; переписка шифруется AES-GCM. Для компаний есть договор, счёт, ЭДО, админ-панель и лимиты по сотрудникам. Пригодится, когда нужно собрать поиск по базе знаний с опорой на источники, подключить модель к CRM или внутренним API через вызов функций, разобрать и отрефакторить код, проверить решение математической или инженерной задачи, а также подготовить ответы поддержки на основе документации.Частые вопросы о Command R 08 2024
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Это текстовая модель Cohere: отвечает на вопросы, пишет и редактирует материалы, суммирует и анализирует документы, помогает с кодом. Принимает на вход текст, документы и изображения, вызывает функции. Контекст 128 000 токенов — можно загрузить большой файл или длинную переписку и работать с ними целиком.
За один ответ модель выдаёт до 4000 токенов — это несколько страниц текста: статья или подробная инструкция. Если нужно больше, разбейте задачу на части и попросите продолжить: контекста в 128 000 токенов хватит, чтобы модель помнила всё написанное ранее.
В наших данных отдельный режим рассуждений у этой модели не отмечен, поэтому скрытых цепочек размышлений ждать не стоит. Зато вы можете попросить разобрать задачу по шагам прямо в запросе — модель распишет логику в ответе. Для сложных выкладок в каталоге BotHub есть отдельные reasoning-модели.
Да, вызов функций и структурированный вывод в JSON поддерживаются. Модель сама решает, какой инструмент вызвать, и возвращает аргументы в заданной схеме. Это удобно для агентов, поиска по базе знаний и интеграций: в BotHub всё работает через единый OpenAI-совместимый API, так что модель можно заменить без переписывания кода.
Изображения и документы — да, их можно отправить в запросе: модель прочитает файл или разберёт, что на картинке, и ответит текстом. Аудио и видео на вход в наших данных не отмечены. Генерация картинок, звука или видео у этой модели тоже не отмечена — для таких задач в BotHub есть отдельные модели.
Характеристики по языкам в наших данных не указаны, поэтому обещать конкретное качество русского мы не станем — проверьте на своей задаче. Это быстро: в BotHub оплата идёт по факту за токены, без подписки, а рядом в одном окне можно сравнить ответ с другой моделью.