Как работает Rerank 4 Pro?
Rerank 4 Pro — модель ранжирования от Cohere для поиска и RAG: она переупорядочивает найденные фрагменты по релевантности, работает с окном контекста 32K токенов и поддерживает более 100 языков, а предобработка данных не требуется — документы уходят в модель в том виде, в каком лежат в вашей базе. В BotHub модель вызывается через единый OpenAI-совместимый API: меняете имя модели в запросе и сравниваете выдачу с другими, не переписывая интеграцию. Доступ из России без VPN и зарубежной карты, оплата в рублях по факту, токены не сгорают. Сценарии: улучшение выдачи корпоративного поиска по внутренней документации, повышение точности ответов RAG-ассистента, отбор релевантных чанков перед подачей в языковую модель, разбор мультиязычных каталогов и поддержка исследовательских пайплайнов.Частые вопросы о Rerank 4 Pro
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Это реранкер: он не пишет ответы, а оценивает релевантность пары «запрос — документ» и переставляет найденные фрагменты по убыванию уместности. Подходит для доработки поиска и RAG-систем: взять топ кандидатов от обычного поиска и оставить действительно нужные вам.
Готового текста он не пишет: на выходе вы получаете оценки релевантности и порядок документов, а не связное повествование. За один проход доступен контекст до 32 768 токенов, то есть можно подавать длинные фрагменты и сопоставлять их с запросом. Объём вывода по нашим данным — до 29 491 токена.
Отдельной пометки о рассуждениях перед ответом в наших данных нет. По своей роли реранкер и не рассуждает так, как это делают чат-модели: он сразу выдаёт оценку уместности для каждой пары «запрос — документ». Если нужна пошаговая аргументация, ставьте рядом отдельную текстовую модель.
Подтверждённой пометки о вызове функций и структурированном выводе в наших данных нет. При этом результат работы реранкера — упорядоченный список документов с оценками, который удобно принимать в коде и обрабатывать программно. За функциональные вызовы и строгий JSON обычно отвечает генеративная модель в связке.
В наших данных приём изображений, аудио и видео не отмечен: работа строится вокруг текста — запроса и документов-кандидатов, оценки тоже возвращаются в текстовом виде. Если нужно разбирать картинки или аудио, в BotHub для этого есть отдельные мультимодальные модели.
Отдельной пометки о качестве русского в наших данных нет, поэтому обещать его не станем. Сопоставление запроса и документа здесь не требует генерации текста, так что русскоязычные материалы подавать можно — но качество стоит проверить на своей коллекции и своих запросах.