GigaChat
Rede Neural
Especificações
- Entrada
- texto, documentos
- Saída
- texto
- Tamanho do contexto
- 4 095 tokens
- Comprimento máximo de resposta
- 4 096 tokens
Custo do prompt
(por 1M tokens)
Custo da resposta
(por 1M tokens)
Prompt de imagem
(por 1K tokens)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gigachat',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gigachat',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Como funciona GigaChat?
Perguntas frequentes sobre GigaChat
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
O GigaChat é um modelo de texto que mantém diálogos, escreve e edita textos, responde a perguntas e analisa o conteúdo de documentos carregados. No BotHub, ele funciona através da mesma interface que os outros modelos, por isso é conveniente conectá-lo a tarefas de suporte, análise e trabalho com materiais em russo.
Em uma única resposta, o modelo gera até 4096 tokens, e o tamanho do contexto é limitado a 4095 tokens. Para materiais longos, faz sentido dividi-los em partes ou alternar para um modelo com um contexto maior, já que o BotHub oferece acesso unificado aos modelos e não será necessário reescrever a integração.
Não há uma indicação específica sobre raciocínio antes da resposta em nossos dados sobre o modelo, portanto, não podemos afirmar que o GigaChat constrói uma longa cadeia de pensamento. O modelo responde com confiança a perguntas comuns, mas para tarefas com lógica complexa, vale a pena comparar o resultado com outro modelo no BotHub.
A chamada de funções e a saída estruturada em JSON não estão indicadas em nossos dados para este modelo, por isso não prometeremos suporte a elas. Se o cenário exigir um formato de resposta rigoroso, verifique o comportamento em um pequeno teste e, se necessário, escolha um modelo com suporte confirmado a funções.
Além de texto, o GigaChat aceita documentos: você pode carregar um arquivo e fazer perguntas sobre ele. O recebimento de imagens, áudio e vídeo não está indicado em nossos dados para este modelo, portanto, para esses arquivos, é melhor escolher um modelo com suporte a imagens ou som na mesma janela do BotHub.
O GigaChat foi criado como um modelo em russo, por isso trabalha com confiança com textos em russo: entende formulações, mantém o estilo e é adequado para correspondência, edição e análise de documentos em russo. Isso é conveniente quando os materiais e a correspondência são conduzidos principalmente em russo.