llama-3.1-8b-instruct

Réseau Neuronal

Bip-bup, écriture de texte pour vous...

Accueil

Modèles

llama-3.1-8b-instruct

16 384

Longueur maximale de la réponse

(en tokens)

131 072

Taille du contexte

(en tokens)

0,02 $

Coût du prompt

(par 1M tokens)

0,03 $

Coût de la réponse

(par 1M tokens)

0 $

Invite d'image

(par 1K tokens)

Обзор

Провайдеры

API

BotHub: Попробуйте чат GPT бесплатноbot

Осталось Caps: 0 CAPS

Fournisseurs llama-3.1-8b-instructSur Bothub, vous pouvez choisir vous-même les fournisseurs pour les requêtes. Si vous n'avez pas fait de choix, nous trouverons automatiquement des fournisseurs adaptés capables de gérer la taille et les paramètres de votre demande.

Пример кода и API для llama-3.1-8b-instructМы предлагаем полный доступ к API OpenAI через наш сервис. Все наши конечные точки полностью соответствуют конечным точкам OpenAI, их можно использовать как с плагинами, так и при разработке собственного программного обеспечения через SDK.Создать API ключ

Javascript

Python

Curl

import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://bothub.chat/api/v2/openai/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'llama-3.1-8b-instruct',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'llama-3.1-8b-instruct',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 

main();
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://bothub.chat/api/v2/openai/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'llama-3.1-8b-instruct',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'llama-3.1-8b-instruct',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();

Comment ça marche llama-3.1-8b-instruct?

Les bothubs recueillent des informations... empty