Ternary Bonsai 2 9B

Réseau Neuronal

Ternary Bonsai 2 9B : modèle open-source compact de PrismML pour les dialogues, le raisonnement et l'appel de fonctions

Caractéristiques

Entrée
texte, images, documents
Sortie
texte
Taille du contexte
262 144 tokens
Longueur maximale de la réponse
65 536 tokens
Niveaux de raisonnement
faible, moyen, élevé
Fonctionnalités
raisonnement, appel de fonctions
0,1 $

Coût du prompt

(par 1M tokens)

0,16 $

Coût de la réponse

(par 1M tokens)

*Les prix indiqués correspondent à l'utilisation de l'API via les fournisseurs ECO.
bothub
BotHub : Essayez les réseaux de neurones gratuitementbot

Caps restants : 0 CAPS
Exemple de code et API pour Ternary Bonsai 2 9BNous offrons un accès complet à l'API OpenAI via notre service. Tous nos points de terminaison sont entièrement conformes aux points de terminaison OpenAI et peuvent être utilisés avec des plugins ainsi que lors du développement de votre propre logiciel via le SDK.Créer une clé API
import OpenAI from 'openai';
const openai = new OpenAI({
  apiKey: '<your bothub access token>',
  baseURL: 'https://openai.bothub.chat/v1'
});


// Sync - Text generation 

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'ternary-bonsai-2-9b',
  });
} 

// Async - Text generation 

async function main() {
  const stream = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'ternary-bonsai-2-9b',
    stream: true
  });

  for await (const chunk of stream) {
    const part: string | null = chunk.choices[0].delta?.content ?? null;
  }
} 
main();
illustaration

Comment ça marche Ternary Bonsai 2 9B?

Ternary Bonsai 2 9B est un modèle de langage open-weights compact de PrismML, conçu pour les produits conversationnels, le raisonnement et l'appel de fonctions. Basé sur l'architecture Qwen3.5, ses poids sont stockés sous forme ternaire et compressés sur deux bits, ce qui réduit considérablement les besoins en mémoire lors de l'inférence et facilite l'exécution là où chaque gigaoctet compte. Sur BotHub, le modèle est disponible aux côtés des autres : le changement ne nécessite pas de réécrire l'intégration, le paiement s'effectue en roubles selon la consommation de jetons, et l'accès fonctionne sans VPN ni carte étrangère. Pour les équipes construisant des systèmes multimodaux, une API compatible OpenAI est disponible, et pour les entreprises, un contrat, une facture et des limites dans le panneau d'administration sont proposés. Le modèle convient aux assistants de chat et aux bots de support internes, au raisonnement étape par étape, à l'analyse de tâches, aux agents appelant des outils externes, aux prototypes sur matériel limité et à la comparaison de réponses avec des modèles plus grands directement dans l'interface BotHub.

Questions fréquentes sur Ternary Bonsai 2 9B

Vous pouvez utiliser les résultats générés à des fins commerciales. Tous les droits sur le contenu créé vous appartiennent. Seule restriction : vérifiez que la requête ne contient pas de contenus protégés par le droit d'auteur appartenant à des tiers. Le respect des droits sur les données d'entrée relève de votre responsabilité.

Le modèle traite le texte, les documents et les images : il analyse le contenu des fichiers, répond aux questions, raisonne avant de répondre et appelle des outils externes. Il convient à l'analyse de documentation, à l'extraction de données, à l'écriture et à l'analyse de code, ainsi qu'aux tâches nécessitant une sortie structurée en JSON selon un schéma défini.

En une seule réponse, le modèle génère jusqu'à 65 536 jetons, et le contexte total de la requête et de la réponse atteint 262 144 jetons. En pratique, cela correspond à des documents volumineux et de longues réponses, mais la taille exacte en mots ou en pages dépend de la langue et du formatage, il est donc préférable de se fier au compteur de jetons.

Oui, le modèle sait raisonner avant de répondre : la prise en charge du raisonnement est indiquée dans nos données. Il construit des étapes intermédiaires avant de formuler une conclusion, ce qui aide en mathématiques, dans les tâches à conditions multiples, l'analyse de code et la vérification logique. Pour les requêtes simples, ce n'est pas nécessaire et la réponse peut être obtenue plus rapidement.

Oui, les deux capacités sont indiquées dans nos données. Le modèle peut appeler des fonctions externes et renvoyer une réponse sous forme structurée, par exemple en JSON selon un schéma défini. C'est pratique pour les intégrations : il décide lui-même quel outil appeler, et le résultat est facile à analyser par programme sans modification manuelle.

Le modèle accepte les images et les documents en entrée — c'est indiqué dans nos données, vous pouvez donc télécharger une image ou un fichier et poser des questions sur son contenu. L'entrée audio et vidéo n'est pas indiquée dans nos données, il ne faut donc pas compter dessus ; vérifiez auprès du support si c'est important pour votre tâche.

Il n'y a pas d'évaluation distincte de la qualité du russe dans nos données, il serait donc malhonnête d'affirmer quoi que ce soit de précis. Testez le modèle avec vos propres exemples : donnez des questions types, des fragments de documents et les formulations de réponses attendues. Vous verrez ainsi si la précision est suffisante pour votre tâche avant de l'intégrer dans votre produit.

Служба поддержкиРаботаем с 10:00 до 18:00 по МСК