Command R7B 12 2024
нейросеть
Command R7B 12-2024 — компактная и быстрая модель от Cohere для RAG, вызова инструментов и агентных задач.
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 128 000 токенов
- Макс. длина ответа
- 4 000 токенов
- Возможности
- вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'command-r7b-12-2024',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'command-r7b-12-2024',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Command R7B 12 2024?
Command R7B (12-2024) — компактное обновление линейки Command R+ от Cohere, выпущенное в декабре 2024 года. Модель сделана лёгкой и быстрой, но уверенно держит задачи со сложными рассуждениями: её сильные стороны — поиск с дополнением контекста (RAG), вызов инструментов и работа в составе агентов. От старшей версии Command R+ она отличается меньшим размером и скоростью ответа, что заметно там, где запросов много. В BotHub модель открывается без VPN и зарубежной карты: вы платите российской картой в рублях и только по факту, за израсходованные токены, которые не сгорают. Рядом, в одном окне, больше 250 нейросетей, поэтому сравнить ответы или переключиться на другую модель можно без переписывания интеграции — работает единый OpenAI-совместимый API, а переписка защищена шифрованием AES-GCM. Компаниям доступны договор, счёт, ЭДО и админ-панель с лимитами. На практике Command R7B берут, чтобы собрать поиск по корпоративной базе знаний, построить агента с вызовом функций и внешних сервисов, извлечь структурированные данные из документов или разгрузить поддержку на типовых обращениях.Частые вопросы о Command R7B 12 2024
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Это текстовая модель Cohere с контекстом 128 000 токенов. Она принимает на вход текст, документы и изображения, поэтому подходит для работы с длинными материалами: разбор отчётов и договоров, ответы по загруженным файлам, саммари, переписывание и структурирование текста, поддержка в коде и черновиках.
За один ответ модель выдаёт до 4000 токенов. Этого хватает на развёрнутую статью, подробную инструкцию, описание или блок кода. Если нужен материал крупнее, просто разбивайте работу на части и продолжайте диалог: контекст в 128 000 токенов сохраняет всё обсуждение.
Отдельный режим рассуждений в наших данных не отмечен, так что рассчитывать на явные цепочки размышлений не стоит. Но вы всегда можете попросить модель в промте разобрать задачу по шагам и показать логику — на практике это заметно повышает качество ответа.
В наших данных такие пометки не стоят, поэтому гарантировать поддержку мы не можем. Проверить просто: опишите нужный формат прямо в промте и посмотрите на результат. А если задача требует строгого function calling, в BotHub вы переключитесь на другую модель через единый API без переписывания интеграции.
Изображения и документы — да, это подтверждено нашими данными: модель читает файлы и картинки и отвечает по их содержанию текстом. Аудио и видео на вход не предусмотрены. Генерировать изображения, звук или видео модель тоже не умеет — результат всегда текстовый.
Семейство Command от Cohere изначально создавалось как многоязычное, и русский входит в заявленный производителем набор языков. Качество удобнее всего оценить на своих задачах: в BotHub вы платите по факту за токены, без подписки, и можете сравнить вывод с другими моделями в одном окне.