Llama 3.2 3B Instruct
Red Neuronal
Llama 3.2 3B Instruct es un modelo de lenguaje compacto de Meta para diálogos, razonamiento y resúmenes, disponible en BotHub.
Longitud máxima de respuesta
(en tokens)
Tamaño del contexto
(en tokens)
Costo del prompt
(por 1M tokens)
Costo de la respuesta
(por 1M tokens)
Cómo funciona Llama 3.2 3B Instruct?
Llama 3.2 3B Instruct es un modelo de lenguaje compacto de Meta de 3 mil millones de parámetros, construido sobre una arquitectura transformer moderna y ajustado para diálogos, razonamiento y resumen de texto. El multilingüismo está integrado en el modelo, y su pequeño tamaño lo hace conveniente donde la velocidad de respuesta y el volumen de procesamiento son importantes. En BotHub, está disponible sin VPN ni tarjetas extranjeras: pague con tarjeta rusa en rublos solo por lo que realmente consume, y los tokens no utilizados no caducan. Más de 250 modelos están disponibles en una sola ventana, lo que permite cambiar entre ellos para comparar respuestas a la misma consulta, y una API única compatible con OpenAI permite cambiar de modelo en su producto sin reescribir la integración. La correspondencia se cifra mediante AES-GCM y los datos no se guardan. Es adecuado para chatbots y asistentes de soporte de primera línea, para resumir largas conversaciones, informes y artículos, para el procesamiento preliminar de grandes volúmenes de texto antes de enviarlos a un modelo más pesado, y para integrarse en servicios que requieren una capa lingüística rápida.Preguntas frecuentes sobre Llama 3.2 3B Instruct
Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.
El modelo trabaja con texto y documentos: resúmenes, reescritura, respuestas basadas en archivos cargados, extracción de datos, borradores y código simple. Acepta imágenes como entrada y admite llamadas a funciones, lo que facilita su integración en servicios. La ventana de contexto de 131,072 tokens permite mantener materiales largos completos en el diálogo.
Hasta 117,964 tokens en una sola respuesta, lo que equivale al volumen de un libro pequeño. Es suficiente para un análisis detallado de un documento, un gran fragmento de código o una instrucción larga. En la práctica, la respuesta suele ser más corta: el modelo escribe tanto como lo requieran la tarea y su prompt.
No se ha marcado un modo separado de razonamiento paso a paso en nuestros datos para este modelo, por lo que la respuesta llega de inmediato. Si necesita una cadena de razonamiento, solicite en el prompt que descomponga la tarea paso a paso; entonces el proceso de pensamiento será visible directamente en el texto de la respuesta.
Sí, ambas cosas. El modelo admite llamadas a funciones y salida JSON estructurada, por lo que puede conectarlo a sus herramientas, bases de datos y API externas. En BotHub, esto funciona a través de una API única compatible con OpenAI, por lo que no tendrá que reescribir la integración.
Imágenes y documentos, sí, se pueden enviar al modelo junto con la pregunta. El audio y el video no están marcados en los formatos de entrada, por lo que para doblaje o análisis de grabaciones, seleccione un modelo especializado en la misma ventana de BotHub y cambie a él con un solo movimiento.
En nuestros datos, el idioma de trabajo no está marcado por separado, por lo que no prometemos nada; pruébelo con su tarea. Es fácil: en BotHub el pago es por uso de tokens, sin suscripción, y hay otros modelos disponibles en la misma ventana para comparar.