Inkling Small
Rede Neural
Inkling Small é uma rede neural multimodal aberta da Thinking Machines Lab com arquitetura MoE: 12B de parâmetros ativos de 276B.
Especificações
- Entrada
- texto, imagens, documentos
- Saída
- texto
- Tamanho do contexto
- 1 048 576 tokens
- Comprimento máximo de resposta
- 262 144 tokens
- Níveis de raciocínio
- nenhum, mínimo, baixo, médio, alto, max
- Recursos
- raciocínio, chamada de funções
Como funciona Inkling Small?
Inkling Small é um modelo multimodal de pesos abertos da Thinking Machines Lab baseado na arquitetura mixture-of-experts: dos 276 bilhões de parâmetros, cerca de 12 bilhões são ativados por solicitação, exigindo menos computação do que modelos densos de tamanho comparável. Na linha Inkling, esta é a versão mais jovem e econômica, projetada para tarefas de fluxo onde a velocidade de resposta e o custo previsível são importantes. No BotHub, o modelo está disponível sem VPN ou cartão estrangeiro: você paga com cartão russo em rublos pelo uso real de tokens, e o saldo não utilizado não expira. Em uma única janela, você tem acesso a mais de 250 redes neurais, permitindo alternar e comparar respostas, enquanto uma API compatível com OpenAI permite substituir modelos sem reescrever a integração. O tráfego é criptografado via AES-GCM e o conteúdo dos diálogos não é salvo. O modelo é útil para processamento em massa de textos e solicitações multimodais, trabalho com código, extração de fatos de documentos e prototipagem de assistentes. Para clientes corporativos, o BotHub oferece contratos, faturas, EDI e painel administrativo com limites.Perguntas frequentes sobre Inkling Small
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
É um modelo de texto com modo de raciocínio: resolve tarefas passo a passo, escreve e corrige código, explica erros e aceita documentos e imagens. A janela de contexto de 262.144 tokens permite carregar arquivos grandes e conversas longas. Adequado para análise, tarefas STEM e cenários de agentes com chamadas de ferramentas.
O limite de saída é de até 262.144 tokens, o mesmo tamanho da janela de contexto. Isso é suficiente para um documento grande, uma análise detalhada ou um grande volume de código. Lembre-se de que a solicitação e a resposta compartilham o orçamento de contexto, portanto, o volume disponível na prática depende do tamanho do prompt e dos anexos.
Sim, o modo de raciocínio do modelo é confirmado: antes da resposta final, ele constrói uma cadeia de passos. Isso ajuda em matemática, lógica, depuração de código e tarefas de várias etapas onde o processo de solução verificável é importante. Observe que o raciocínio consome tokens de saída, portanto, essas respostas são mais longas e demoradas.
Sim, tanto a chamada de funções quanto a saída estruturada em JSON são suportadas. O modelo pode ser conectado a ferramentas externas, bancos de dados e serviços, permitindo criar agentes e pipelines. No BotHub, isso está disponível através de uma API única compatível com OpenAI, então não é necessário reescrever a integração ao mudar para outro modelo.
De acordo com nossos dados, texto, imagens e documentos são aceitos como entrada: envie uma captura de tela, diagrama, PDF ou tabela e receba uma análise em texto. Áudio e vídeo não estão listados entre os formatos de entrada declarados. A geração de qualquer coisa além de texto não foi observada no modelo — ele responde em texto.
Em nossos dados, o idioma das solicitações e respostas não está especificado, portanto, não prometeremos uma qualidade específica em russo — teste o modelo em sua tarefa no chat ou via API. Do lado do serviço, não há restrições: acesso da Rússia sem VPN e cartão estrangeiro, pagamento em rublos.