Llama 3.3 70B Instruct

Red Neuronal

Llama 3.3 70B Instruct es un modelo de texto multilingüe de Meta de 70 mil millones de parámetros para tareas de diálogo e instrucciones.

Inicio

/

Modelos

/

Modelos de IA de texto

/

Llama 3.3 70B Instruct

Características

Entrada
texto, documentos
Salida
texto
Tamaño del contexto
131 072 tokens
Longitud máxima de respuesta
115 200 tokens
Funciones
llamada a funciones
0,85 $

Costo del prompt

(por 1M tokens)

0,85 $

Costo de la respuesta

(por 1M tokens)

*Se indican los precios al usar la API a través de proveedores ECO.
bothub
BotHub: Experimente redes neurais gratuitamentebot

Caps restantes: 0 CAPS
Exemplo de código e API para Llama 3.3 70B InstructOferecemos acesso completo à API OpenAI através do nosso serviço. Todos os nossos endpoints estão totalmente em conformidade com os endpoints OpenAI e podem ser usados tanto com plugins quanto ao desenvolver seu próprio software através do SDK.Criar chave API
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'llama-3.3-70b-instruct',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'llama-3.3-70b-instruct',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Cómo funciona Llama 3.3 70B Instruct?

Llama 3.3 70B Instruct es un modelo de lenguaje de Meta de 70 mil millones de parámetros: preentrenado y ajustado con instrucciones, funciona con un esquema de entrada y salida de texto, diseñado para el diálogo multilingüe. En BotHub, el modelo Llama 3.3 está disponible sin VPN ni tarjeta extranjera: paga con tarjeta rusa en rublos según el uso de tokens, no por suscripción, y el saldo no caduca. Otras redes neuronales están disponibles en la misma ventana para comparar respuestas en pocos clics, y la API unificada de BotHub permite conectar Llama a tu servicio y reemplazarla más tarde por otro modelo sin reescribir la integración. Los datos se transmiten cifrados, y las empresas tienen acceso a contratos, facturas, EDI y un panel de administración con límites. Es útil para crear un asistente de chat de soporte, resumir documentos largos o correspondencia, reescribir y corregir borradores, preparar respuestas a preguntas frecuentes de clientes y ejecutar procesamiento por lotes de textos a través de la API.

Preguntas frecuentes sobre Llama 3.3 70B Instruct

Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.

Llama 3.3 70B Instruct es un modelo de texto de Meta para diálogo y trabajo basado en instrucciones: escribe y edita textos, analiza código, ayuda con la refactorización y depuración, y resuelve problemas de lógica y STEM. El contexto de 128 000 tokens permite trabajar con correspondencia larga, documentación o proyectos grandes completos.

En una sola respuesta, el modelo genera hasta 16 384 tokens, suficiente para un artículo extenso, una sección grande de documentación o varios archivos de código. Si el material no cabe, simplemente pide que continúe: el inicio permanecerá en el contexto de 128 000 tokens y el modelo no perderá el hilo.

No hay un modo separado de razonamiento paso a paso indicado en nuestros datos: el modelo suele responder de inmediato. Sin embargo, puedes obtener un análisis detallado mediante un prompt: pide que explique la solución paso a paso, compare opciones y luego saque una conclusión. Para lógica, matemáticas y análisis de código, este método funciona bien.

Sí. El modelo admite llamadas a funciones y salida JSON estructurada, por lo que es fácil integrarlo en agentes, chatbots y pipelines: elige la herramienta necesaria y devuelve los campos según el esquema definido. En BotHub, esto funciona a través de una API unificada compatible con OpenAI, por lo que el modelo se puede cambiar sin reescribir la integración.

Se pueden cargar imágenes y documentos: el modelo analizará una captura de pantalla, esquema, gráfico o archivo y responderá con texto. La entrada de audio y video no está indicada en nuestros datos. La generación distinta a texto tampoco está indicada: crea imágenes y audio con otros modelos en la misma ventana de BotHub.

No hay notas sobre idiomas en nuestros datos, por lo que no podemos prometer un nivel específico de ruso. Lo más fácil es comprobarlo en la práctica: envía tu consulta típica y evalúa la respuesta. Si las formulaciones no te convencen, cambia a otro modelo en la misma ventana; los tokens no caducan y el pago es según el uso.

Serviço de SuporteAberto das 10:00 às 18:00 (MSK)