Inkling 2 Small
Rede Neural
Inkling 2 Small — modelo MoE multimodal da Thinking Machines Lab para raciocínio e trabalho com diferentes tipos de dados.
Especificações
- Entrada
- texto, imagens, documentos
- Saída
- texto
- Tamanho do contexto
- 1 048 576 tokens
- Comprimento máximo de resposta
- 131 072 tokens
- Níveis de raciocínio
- mínimo, baixo, médio, alto, max
- Recursos
- raciocínio, chamada de funções
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small:free',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small:free',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Como funciona Inkling 2 Small?
Inkling 2 Small é um modelo de raciocínio multimodal da Thinking Machines Lab baseado na arquitetura esparsa mixture-of-experts: 17B de parâmetros ativos de um total de 594B. É a primeira adição à segunda geração da linha Inkling, focada em raciocínio de várias etapas e trabalho combinado com texto e imagens em uma única solicitação. Através do BotHub, o modelo está disponível na Rússia sem VPN ou cartão estrangeiro: o pagamento é feito em rublos por tokens, que não expiram, e a alternância entre mais de 250 modelos ocorre com um clique, permitindo comparar respostas na mesma janela. Para equipes, há contrato, fatura, intercâmbio eletrônico de documentos e limites; para desenvolvimento, uma API única compatível com OpenAI, com dados protegidos por criptografia AES-GCM e não armazenados. Use-o para análise de dados, onde é necessário comparar uma tabela com um gráfico ou digitalização de documento e tirar conclusões; para cálculos passo a passo e verificação de hipóteses, onde é importante mostrar o processo de raciocínio; para criar protótipos de assistentes com várias etapas de antecedência; e para rotular e descrever imagens com explicações em texto. Comece com uma solicitação de teste — adicione saldo e compare o Inkling 2 Small com seu modelo habitual na interface do BotHub.Perguntas frequentes sobre Inkling 2 Small
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
O modelo trabalha com texto, documentos e imagens: analisa o conteúdo de arquivos, responde a perguntas sobre eles e gera texto. Graças ao raciocínio antes da resposta, é adequado para análise, trabalho com código e análise de materiais volumosos. O contexto de até 1.048.576 tokens permite carregar documentos grandes na íntegra, sem dividi-los em partes.
Em uma única resposta, o modelo pode gerar até 131.072 tokens — o volume de um documento técnico inteiro ou de um capítulo grande. Essa capacidade é suficiente para não dividir uma tarefa grande em partes e obter um texto coerente em uma única passagem.
Sim, o raciocínio antes da resposta é suportado — este ponto está marcado nos dados do modelo. Ele pode primeiro analisar a tarefa passo a passo e, em seguida, fornecer o resultado final. Isso ajuda em perguntas de várias etapas, onde a ordem dos cálculos é importante, e na análise de código.
Sim, a chamada de funções e a saída estruturada em JSON são suportadas. Isso significa que o modelo pode ser integrado a um aplicativo ou script de automação: ele retornará uma resposta na marcação que seu código aceitará. Útil para extrair dados de documentos e criar cadeias de solicitações.
Sim, você pode enviar imagens e documentos: o modelo lerá o arquivo e responderá com base no conteúdo. Isso é conveniente para analisar relatórios, tabelas e digitalizações. A recepção de áudio e vídeo não está marcada em nossos dados — este ponto deve ser verificado separadamente antes da compra.
Em nossos dados, não há avaliação da qualidade das respostas do modelo em russo, portanto, não prometeremos nada específico. O modelo trabalha com texto em diferentes idiomas, mas é melhor verificar o quão bem ele mantém a estilística russa em suas próprias tarefas: peça para ele resumir ou editar seu texto.