GigaChat-preview
Rede Neural
Especificações
- Entrada
- texto
- Saída
- texto
- Tamanho do contexto
- 128 000 tokens
- Comprimento máximo de resposta
- 128 000 tokens
Custo do prompt
(por 1M tokens)
Custo da resposta
(por 1M tokens)
Prompt de imagem
(por 1K tokens)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'GigaChat-preview',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'GigaChat-preview',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Como funciona GigaChat-preview?
Perguntas frequentes sobre GigaChat-preview
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
O GigaChat-preview trabalha com texto: escreve e edita materiais, resume documentos longos, responde a perguntas sobre o texto fornecido, ajuda com código e correspondência comercial. O contexto de 128.000 tokens permite manter um contrato, artigo ou especificação técnica inteiros no diálogo.
O limite de saída é de 128.000 tokens, o mesmo que a janela de contexto. Isso é suficiente para um texto muito volumoso: um relatório detalhado, um capítulo ou uma série de materiais relacionados. Lembre-se de que a solicitação e a resposta compartilham a mesma janela, portanto, dados de entrada longos reduzem o espaço para a resposta.
Um modo de raciocínio separado não está indicado em nossos dados, por isso não podemos prometer isso. No entanto, você sempre pode pedir ao modelo para descrever a solução passo a passo, verificar conclusões intermediárias e explicar a lógica — isso geralmente melhora visivelmente a qualidade da resposta em tarefas complexas.
Em nosso cartão de modelo, a chamada de funções e a saída JSON estrita não estão indicadas, portanto, não vale a pena incluí-las em produção sem testes. Você pode solicitar uma resposta em formato JSON diretamente no prompt, e é melhor testar o resultado em seus cenários através da API unificada do BotHub.
O modelo é declarado como textual: o recebimento de imagens, áudio e vídeo não está indicado em nossos dados. Se a tarefa exigir a análise de uma imagem ou a transcrição de uma gravação, alterne para o modelo adequado na mesma janela do BotHub — não será necessário reescrever a integração e a API.
O GigaChat é um desenvolvimento russo, e o russo é seu idioma principal: o modelo trabalha com ele nativamente, sem tradução intermediária. O quão precisamente ele corresponderá ao seu estilo é mais fácil de verificar com textos reais — no BotHub, isso está disponível a partir da Rússia, sem VPN e cartão estrangeiro, com pagamento em rublos.