Switchyard
Rede Neural
Switchyard é um roteador de modelos de código aberto que distribui solicitações entre redes neurais e otimiza seus custos.
Especificações
- Entrada
- texto, documentos
- Saída
- texto
- Tamanho do contexto
- 1 000 000 tokens
- Comprimento máximo de resposta
- 330 000 tokens
Como funciona Switchyard?
Switchyard é um roteador de solicitações de código aberto: em vez de uma rede neural fixa, ele seleciona o modelo para a solicitação específica com base em dados de mercado sobre a demanda dos modelos, mantendo o custo da solicitação. No BotHub, o modelo funciona na Rússia sem VPN ou cartão estrangeiro; o pagamento é feito com cartões russos por token, sem assinatura, e o saldo não utilizado não expira. Com mais de 250 redes neurais disponíveis na mesma janela, é fácil comparar a resposta do roteador com um modelo escolhido manualmente, e uma API compatível com OpenAI permite trocar de modelo na integração sem reescrever o código. As mensagens são criptografadas via AES-GCM, os dados não são salvos, e as empresas têm acesso a contratos, faturas, EDI e um painel administrativo com limites. Útil para reduzir custos de fluxos de solicitações repetitivas, criar protótipos de serviços multimodais, automatizar o primeiro nível de atendimento, gerar e editar textos ou verificar qual rede neural lida melhor com sua tarefa.Perguntas frequentes sobre Switchyard
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
Switchyard é um modelo de texto da NVIDIA. Aceita texto e documentos, sendo adequado para trabalhar com materiais longos: análise de relatórios, resumos e estruturação, edição e reescrita, respostas a perguntas sobre o conteúdo de arquivos, ajuda com código e documentação técnica.
O volume máximo de uma resposta é de 330.000 tokens, o que equivale a centenas de páginas. Essa capacidade é suficiente para um relatório longo, tradução de um documento grande ou documentação técnica detalhada completa, sem divisão manual. A janela de contexto é de um milhão de tokens.
Um modo de raciocínio separado não está indicado em nossos dados, mas isso não significa que não exista. Se precisar de explicações passo a passo, solicite diretamente na consulta: o modelo analisará a tarefa passo a passo dentro da própria resposta — para análise de lógica ou cálculos, isso geralmente é suficiente.
Não há indicações sobre chamada de funções e saída estruturada estrita em nossos dados, portanto, não garantiremos suporte. Na prática, o formato pode ser definido diretamente no prompt, solicitando que retorne apenas JSON. Antes da produção, teste o modelo em seus cenários através da API unificada do BotHub.
Documentos, sim, é uma possibilidade confirmada: carregue arquivos e faça perguntas sobre eles. Imagens, áudio e vídeo como formatos de entrada não estão indicados em nossos dados. Se precisar trabalhar com mídia, modelos multimodais estão disponíveis no BotHub, com alternância na mesma janela.
Não temos dados específicos sobre a qualidade do português nesta modelo, portanto, não prometemos nada. A maneira mais fácil é testar com seu próprio texto: abra o Switchyard no site ou no bot do Telegram do BotHub. Acesso sem VPN e cartão estrangeiro, pagamento em rublos.