Llama 3.2 1B Instruct
Red Neuronal
Llama 3.2 1B Instruct es un modelo de lenguaje compacto de Meta de 1 mil millones de parámetros para diálogos, resumen y análisis.
Longitud máxima de respuesta
(en tokens)
Tamaño del contexto
(en tokens)
Costo del prompt
(por 1M tokens)
Costo de la respuesta
(por 1M tokens)
Cómo funciona Llama 3.2 1B Instruct?
Llama 3.2 1B Instruct es un modelo de lenguaje compacto de Meta de 1 mil millones de parámetros. Su objetivo no es la profundidad máxima de razonamiento, sino realizar tareas de texto típicas de forma rápida y económica: mantener diálogos, resumir materiales extensos, analizar y clasificar mensajes entrantes. Su pequeño tamaño ofrece una alta velocidad de respuesta donde el flujo de solicitudes es importante, no una única respuesta compleja. En BotHub, el modelo está disponible sin VPN: los tokens se pagan según el uso, sin suscripción, y no caducan. Una API única compatible con OpenAI conecta el modelo con una sola solicitud, y puede cambiar a cualquiera de las más de 250 redes neuronales sin reescribir la integración; los chats están cifrados y todos los modelos están reunidos en una sola ventana. Es útil si realiza resúmenes masivos de correos, tickets e informes, gestiona la primera línea de atención al cliente, etiqueta y clasifica textos antes de enviarlos a un modelo más grande, prepara descripciones breves y borradores en grandes volúmenes, o integra un asistente de texto económico directamente en su producto.Preguntas frecuentes sobre Llama 3.2 1B Instruct
Puede usar los resultados generados con fines comerciales. Todos los derechos sobre el contenido creado le pertenecen. La única restricción: asegúrese de que la solicitud no incluya material de terceros protegido por derechos de autor. El usuario es responsable de respetar los derechos sobre los datos de entrada.
llama-3.2-1b-instruct es un modelo compacto de la familia Llama con ajuste instructivo. Cubre tareas simples y masivas: respuestas cortas, reformulación, extracción de campos de documentos, borradores y clasificación de solicitudes. Para operaciones de flujo donde la velocidad y la previsibilidad son más importantes que la profundidad del análisis, es una opción funcional.
Un máximo de 54 000 tokens por respuesta, lo que equivale a varias decenas de páginas de texto. La ventana de contexto del modelo es de 131 072 tokens, por lo que puede cargar materiales extensos y aún tener espacio para una respuesta detallada sin cortes a mitad de camino.
No hemos registrado un modo de razonamiento separado para este modelo en nuestros datos. Sin embargo, puede pedirle directamente en el prompt que descomponga la tarea paso a paso y muestre su proceso de pensamiento; esto es suficiente para cadenas simples. Para cálculos complejos, cambie a un modelo de razonamiento en la misma ventana.
No hemos registrado la llamada a funciones ni un modo JSON estricto para este modelo en nuestros datos. Puede solicitar una respuesta en formato JSON en el propio prompt, pero debe verificar la estructura por su cuenta. Si necesita garantías, cambie a un modelo con function calling declarado a través de la API única compatible con OpenAI de BotHub.
Se pueden cargar imágenes y documentos: el modelo los acepta junto con el texto; puede usar escaneos, diagramas, capturas de pantalla y archivos de texto. El audio y el video no están entre los formatos de entrada admitidos; para ellos, hay modelos específicos en el catálogo de BotHub. La respuesta se entrega en texto.
La familia Llama 3.2 ha sido declarada por el desarrollador como multilingüe, y el modelo funciona con ruso. Sin embargo, al ser una versión compacta de solo 1B de parámetros, la calidad en textos largos y complejos es inferior a la de modelos más grandes. Pruébelo con su tarea; hay modelos más grandes disponibles en la misma ventana.