YandexGPT Lite
Rede Neural
Especificações
- Entrada
- texto, documentos
- Saída
- texto
- Tamanho do contexto
- 32 000 tokens
- Comprimento máximo de resposta
- 32 768 tokens
Custo do prompt
(por 1M tokens)
Custo da resposta
(por 1M tokens)
Prompt de imagem
(por 1K tokens)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'yandexgpt-lite',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'yandexgpt-lite',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Como funciona YandexGPT Lite?
Perguntas frequentes sobre YandexGPT Lite
Você pode usar os resultados da geração para fins comerciais. Todos os direitos sobre o conteúdo criado pertencem a você. A única restrição: certifique-se de que a solicitação não inclua materiais de terceiros protegidos por direitos autorais. A responsabilidade pelo cumprimento dos direitos sobre os dados de entrada é do usuário.
É um modelo de texto da Yandex para o trabalho diário com textos: resumos curtos, reescrita e edição, respostas a perguntas, rascunhos de e-mails e descrições. Aceita documentos como entrada, por isso é adequado para analisar arquivos e extrair o principal de materiais longos.
Até 32.768 tokens em uma única resposta — o suficiente para um artigo detalhado, um relatório grande ou uma série de descrições em uma única solicitação. A janela de contexto é de 32.000 tokens, comportando seu documento, instruções e o histórico do diálogo.
Em nossos dados, não há um modo de raciocínio separado marcado para este modelo. Mas você pode obter uma análise passo a passo com um prompt comum: peça para detalhar a lógica passo a passo. Se precisar de cadeias de pensamento detalhadas, modelos de raciocínio estão disponíveis no BotHub — a alternância leva apenas um clique.
Em nossos dados, o suporte para function calling e saída estruturada rigorosa não está marcado, portanto, não podemos garantir. Na prática, o modelo geralmente responde seguindo um modelo definido se você especificar o formato no prompt. Para esquemas confiáveis, escolha um modelo com structured output confirmado.
O modelo trabalha com texto e documentos: você carrega um arquivo e ele faz um resumo, responde a perguntas sobre o conteúdo ou reescreve fragmentos. Para imagens, áudio e vídeo, existem modelos multimodais separados no BotHub — eles estão disponíveis na mesma janela e via uma única API.
O modelo foi criado pela Yandex e é originalmente focado em tarefas em russo, o que é perceptível na edição, resumos e correspondência comercial. A melhor maneira de verificar é comparar sua resposta com outros modelos no BotHub usando seu texto: acesso a partir da Rússia sem VPN e sem cartão estrangeiro.