Как работает Qwen3 Reranker 8B?
Qwen3 Reranker 8B — модель реранжирования от Alibaba Cloud на архитектуре Qwen3. Она получает пару «запрос-документ» и выдаёт оценку релевантности, поэтому её ставят вторым этапом после векторного поиска: кандидаты из базы переупорядочиваются по смыслу запроса. Через BotHub доступ открыт без VPN и зарубежной карты, оплата в рублях по факту использования, а единый OpenAI-совместимый API встраивает реранкер в мультимодельную систему без переписывания кода. Сценарии: точность RAG-ответов, дооценка выдачи семантического поиска, фильтрация топ-K результатов из Qdrant и pgvector, отбор документов для чат-бота по базе знаний, внутренний поиск в корпоративной системе.Частые вопросы о Qwen3 Reranker 8B
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Это реранкер: он оценивает, насколько документ релевантен запросу, и возвращает оценку для сортировки. Его применяют в поиске и RAG, чтобы переставлять найденные фрагменты перед отправкой в генеративную модель, а также для отбора кандидатов из выдачи. Генерация ответов и диалог с пользователем — не его задача.
Связный текст эта модель не пишет: её ответ — оценка релевантности пары «запрос — документ», а не абзацы. Поэтому объём «написанного» здесь не измеряется. При работе с документами ориентируйтесь на контекст в 40 960 токенов — он задаёт, какой длины фрагменты можно подать на оценку.
Отдельного режима рассуждений у неё нет: в наших данных это не отмечено, и модель не выдаёт цепочку размышлений перед оценкой. Она сразу возвращает балл релевантности, и для поиска это скорее плюс — меньше задержка и проще встроить в конвейер выдачи.
Вызов функций и структурированный вывод в JSON в наших данных не отмечены, и для реранкера это нехарактерная задача: он не вызывает инструменты, а выдаёт оценку соответствия. JSON вам придётся формировать на стороне своего приложения, складывая в него результаты ранжирования.
Нет, на вход она принимает текст: приём изображений, аудио и видео в наших данных не отмечен. Модель работает с парой «запрос — документ» и оценивает их текстовое соответствие, так что картинки и записи нужно сначала превратить в текст, например через описание или распознавание речи.
Отдельных сведений о качестве на русском языке у нас нет, поэтому обещать конкретику не будем. Модель работает с текстом и оценивает смысловую близость пары «запрос — документ»; насколько хорошо это получается именно на русскоязычных запросах, лучше проверить на своей выборке документов.