Inkling 2 Small
Réseau Neuronal
Inkling 2 Small est un modèle MoE multimodal de Thinking Machines Lab pour le raisonnement et le traitement de divers types de données.
Caractéristiques
- Entrée
- texte, images, documents
- Sortie
- texte
- Taille du contexte
- 1 048 576 tokens
- Longueur maximale de la réponse
- 131 072 tokens
- Niveaux de raisonnement
- minimal, faible, moyen, élevé, max
- Fonctionnalités
- raisonnement, appel de fonctions
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small:free',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small:free',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Comment ça marche Inkling 2 Small?
Inkling 2 Small est un modèle de raisonnement multimodal de Thinking Machines Lab basé sur une architecture sparse mixture-of-experts : 17B paramètres actifs sur 594B au total. Il s'agit du premier ajout à la deuxième génération de la gamme Inkling, axé sur le raisonnement en plusieurs étapes et le traitement combiné de texte et d'images dans une seule requête. Via BotHub, le modèle est accessible depuis la Russie sans VPN ni carte étrangère : le paiement s'effectue en roubles à l'utilisation pour des jetons qui n'expirent pas. Le basculement entre plus de 250 modèles se fait en un clic, permettant de comparer les réponses dans une seule fenêtre. Pour les équipes, nous proposons des contrats, des factures, l'EDI et des limites ; pour le développement, une API compatible OpenAI unique, avec des données protégées par chiffrement AES-GCM et non conservées. Utilisez-le pour l'analyse de données nécessitant de comparer un tableau avec un graphique ou un scan de document, pour des calculs étape par étape, la vérification d'hypothèses, la création de prototypes d'assistants, ou l'annotation d'images avec des explications textuelles. Commencez par une requête d'essai : rechargez votre solde et comparez Inkling 2 Small avec votre modèle habituel dans l'interface BotHub.Questions fréquentes sur Inkling 2 Small
Vous pouvez utiliser les résultats générés à des fins commerciales. Tous les droits sur le contenu créé vous appartiennent. Seule restriction : vérifiez que la requête ne contient pas de contenus protégés par le droit d'auteur appartenant à des tiers. Le respect des droits sur les données d'entrée relève de votre responsabilité.
Le modèle traite le texte, les documents et les images : il analyse le contenu des fichiers, répond aux questions et génère du texte. Grâce au raisonnement avant réponse, il est idéal pour l'analyse, le code et les documents volumineux. Un contexte allant jusqu'à 1 048 576 jetons permet de charger des documents entiers sans les diviser.
En une seule réponse, le modèle peut générer jusqu'à 131 072 jetons, soit le volume d'un document technique complet ou d'un long chapitre. Cette capacité permet de traiter de grandes tâches sans les diviser et d'obtenir un texte cohérent en un seul passage.
Oui, le raisonnement avant réponse est pris en charge. Le modèle peut décomposer la tâche étape par étape avant de fournir le résultat final. Cela aide pour les questions complexes nécessitant un ordre de calcul précis et pour l'analyse de code.
Oui, l'appel de fonctions et la sortie JSON structurée sont pris en charge. Vous pouvez intégrer le modèle dans une application ou un script d'automatisation : il renverra une réponse dans un format lisible par votre code. Pratique pour l'extraction de données et les chaînes de requêtes.
Oui, vous pouvez fournir des images et des documents : le modèle lira le fichier et répondra en fonction de son contenu. C'est utile pour analyser des rapports, des tableaux et des scans. La prise en charge de l'audio et de la vidéo n'est pas indiquée dans nos données ; veuillez vérifier ce point avant l'achat.
Nos données ne contiennent pas d'évaluation de la qualité des réponses en russe, nous ne pouvons donc rien promettre de précis. Le modèle traite le texte dans plusieurs langues, mais pour vérifier sa maîtrise du style russe, testez-le sur vos propres tâches : demandez-lui de résumer ou d'éditer votre texte.