Mistral Small 3.2 24B Instruct
нейросеть
Mistral Small 3.2 24B Instruct — обновлённая модель Mistral для точного следования инструкциям и вызова функций по API
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 256 000 токенов
- Макс. длина ответа
- 26 214 токенов
- Возможности
- вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-small-3.2-24b-instruct',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-small-3.2-24b-instruct',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Mistral Small 3.2 24B Instruct?
Mistral Small 3.2 24B Instruct — обновлённая модель французской лаборатории Mistral на 24 миллиарда параметров, собранная вокруг точного следования инструкциям. В сравнении с версией 3.1 она аккуратнее выполняет задания и реже уходит в повторы и зацикленные ответы, а вызов функций стал надёжнее, поэтому модель спокойно ведёт цепочки инструментов. Через BotHub она открывается без VPN и зарубежной карты: платите рублями по факту за израсходованные токены, а не за подписку, причём неизрасходованные токены не сгорают. Рядом в одном окне больше 250 моделей — можно сравнить ответы на одном промте, а единый OpenAI-совместимый API даёт подключить Mistral Small 3.2 к своему сервису и позже заменить на другую модель, не переписывая интеграцию; для компаний есть договор, счёт, ЭДО и админ-панель с лимитами. Пригодится, когда нужно собрать агента с вызовом внешних функций, разобрать документ по заданному шаблону и вернуть ответ в нужном формате, обработать поток однотипных заявок и писем, подготовить черновики текстов по чёткому брифу или встроить модель в продукт для массовых запросов.Частые вопросы о Mistral Small 3.2 24B Instruct
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Это инструктивная модель Mistral на 24 миллиардах параметров. Она разбирает документы и изображения, пишет и правит код, отвечает на вопросы, готовит выжимки, письма и описания. Контекст 32768 токенов позволяет держать в работе целый файл или длинную переписку целиком.
За один ответ модель выдаёт до 16384 токенов — этого хватает на большую статью, подробный разбор или крупный модуль кода. Нужен объём больше? Попросите продолжить: в контекст 32768 токенов уместится и ваш запрос, и уже написанная часть.
Отдельный режим размышлений в наших данных не отмечен, поэтому заранее на него не рассчитывайте. Зато ход мысли вы можете задать сами: попросите разобрать задачу по шагам, выписать условия и проверить результат — на логике и разборе кода это ощутимо помогает.
Да, вызов функций и структурированный вывод JSON поддерживаются. Модель подходит для агентов, парсеров и сценариев, где ответ сразу уходит в базу или сторонний сервис. Подключение идёт через единый OpenAI-совместимый API BotHub, так что переписывать интеграцию под другую модель не придётся.
Изображения и документы загружать можно: модель прочитает скан, таблицу, схему или скриншот и ответит текстом. Аудио и видео среди поддерживаемых типов входа не числятся — для таких файлов в BotHub есть отдельные модели, доступные в том же окне и по той же оплате.
Отдельных замеров по языкам мы в данных модели не приводим, поэтому надёжнее всего проверить её на своей задаче — обычно достаточно пары запросов. Если результат не устроит, рядом в том же окне больше 250 моделей: переключаетесь без VPN и платите российской картой.