Mistral Large 2407
нейросеть
Mistral Large 2407 — флагманская модель Mistral AI для рассуждений, кода и ответов в JSON, доступна через mistral large api в BotHub.
Характеристики
- Входные данные
- текст, документы
- Результат
- текст
- Размер контекста
- 131 072 токена
- Макс. длина ответа
- 104 857 токенов
- Возможности
- вызов функций
Стоимость промпта
(за 1M токенов)
Стоимость ответа
(за 1M токенов)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-large-2407',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'mistral-large-2407',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Mistral Large 2407?
Mistral Large 2407 — флагманская модель Mistral AI: веса доступны, лицензия при этом остаётся проприетарной. Она сильна в рассуждениях, работе с кодом и выдаче структурированного JSON, а также уверенно ведёт диалог, поэтому подходит и для аналитических задач, и для встраивания в продукт. В BotHub мистраль ларж работает без VPN и зарубежной карты: вы платите российской картой в рублях по факту за токены, а не за подписку, и неизрасходованные токены не сгорают. Рядом в том же окне более 250 моделей, между которыми легко переключаться и сравнивать ответы, а единый OpenAI-совместимый API позволяет сменить модель, не переписывая интеграцию; переписка защищена шифрованием AES-GCM. Разработчику модель помогает писать и рефакторить код, разбирать ошибки и возвращать результат строго в JSON для дальнейшей обработки. Аналитику — раскладывать длинные документы на тезисы и проверять логику расчётов. Продуктовой команде — собирать ассистентов и чат-сценарии поверх API. Тем, кто много пишет, — готовить черновики, письма и описания, а затем дорабатывать их в диалоге.Частые вопросы о Mistral Large 2407
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Это текстовая модель Mistral с контекстом 128 000 токенов. Подходит для работы с длинными документами: разбор, выжимки, поиск нужного фрагмента. Хорошо справляется с кодом — написание, рефакторинг, отладка, — а также с аналитикой, STEM-задачами и сценариями, где нужен вызов внешних инструментов.
Лимит вывода — 104 857 токенов за один ответ, этого хватает на крупный технический документ или подробный разбор большого файла с кодом. Учитывайте общий контекст в 128 000 токенов: в него входят и ваш запрос с вложениями, и сам ответ.
Отдельный режим рассуждений в наших данных у этой модели не отмечен — ответ она формирует сразу. Но пошаговый разбор легко получить промптом: попросите расписать логику по шагам или сначала составить план, а потом дать итог. На сложных задачах это заметно помогает.
Да, вызов функций и структурированный вывод в JSON поддерживаются. Это удобно для агентов, ботов с доступом к внешним сервисам и пайплайнов, где ответ разбирается кодом. В BotHub модель доступна через единый OpenAI-совместимый API, поэтому схемы инструментов описываются привычным образом.
Помимо текста модель принимает документы, причём нативно: вы прикладываете файл и задаёте вопросы по его содержимому. Изображения, аудио и видео сюда передать нельзя. Для таких задач переключитесь на мультимодальную модель в том же окне BotHub — интеграцию переписывать не придётся.
Линейка Mistral Large заявлена как многоязычная, и с русским модель работает уверенно: держит терминологию, редактирует, переводит, отвечает по смыслу длинных документов. На узких доменах качество стоит проверить на своих задачах — рядом в одном окне доступны другие модели для сравнения.