Mistral Small 24B Instruct 2501
нейросеть
Mistral Small 24B Instruct 2501 — языковая модель Mistral AI на 24 миллиарда параметров, оптимизированная под низкую задержку ответа
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 32 768 токенов
- Макс. длина ответа
- 16 384 токена
- Возможности
- вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-small-24b-instruct-2501',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-small-24b-instruct-2501',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Mistral Small 24B Instruct 2501?
Mistral Small 24B Instruct 2501 — языковая модель лаборатории Mistral AI на 24 миллиарда параметров, собранная вокруг одной идеи: отвечать быстро на повседневных задачах. Разработчик выпускает её под лицензией Apache 2.0 сразу в двух вариантах — предобученном и дообученном на инструкциях, и версия Instruct рассчитана на работу по прямым указаниям пользователя. Компактный размер даёт низкую задержку там, где важна скорость реакции, а не многочасовые размышления. В BotHub модель открывается из России без VPN и зарубежной карты: вы платите рублями по факту за израсходованные токены, и они не сгорают. Рядом в том же окне — более 250 моделей, между которыми легко переключаться, сравнивая ответы на одном и том же запросе, а единый API BotHub позволяет подключить Mistral Small к своему продукту и позже сменить модель, не переписывая интеграцию. Пригодится, когда нужен отзывчивый ассистент в поддержке, массовая обработка и разметка текстов, извлечение данных из документов, черновики писем и типовых материалов, а также быстрый вспомогательный слой рядом с более тяжёлыми моделями.Частые вопросы о Mistral Small 24B Instruct 2501
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Это текстовая модель Mistral с контекстом 32 000 токенов. Подходит для написания и редактуры текстов, работы с кодом, ответов на вопросы по загруженным документам и изображениям, а также для сценариев с вызовом функций — чат-ботов, ассистентов и внутренних сервисов компании.
Лимит вывода — 16 384 токена за ответ, это несколько десятков тысяч знаков: хватит на большую статью, подробный разбор или объёмный фрагмент кода. Общий контекст диалога — 32 000 токенов, и запрос с ответом укладываются в него вместе.
Отдельный режим рассуждений с видимой цепочкой размышлений в наших данных не отмечен. При этом вы можете попросить модель в промпте разобрать задачу по шагам, проверить ход решения и только затем дать вывод — на сложных задачах это заметно помогает.
Да, модель поддерживает вызов функций и структурированный вывод в JSON. Это удобно для интеграций: модель сама решает, какой инструмент вызвать, и возвращает ответ в заданной схеме. В BotHub всё работает через единый OpenAI-совместимый API.
На вход, кроме текста, принимаются изображения и документы: можно показать скриншот, схему или прислать файл и задать вопросы по содержимому. Для озвучки, транскрибации или работы с видео переключитесь на профильную модель — в BotHub это делается в том же окне.
Mistral заявляет свои instruct-модели как многоязычные, и русский входит в число поддерживаемых языков, так что с обычными рабочими задачами модель справляется. Насколько ответы устроят вас по стилю, проще проверить на своих промптах — доступ в BotHub работает без VPN и зарубежной карты.