GPT OSS 20B Batch
Réseau Neuronal
GPT OSS 20B est un modèle open source OpenAI (Mixture-of-Experts) en mode batch pour le traitement massif de tâches textuelles.
Longueur maximale de la réponse
(en tokens)
Taille du contexte
(en tokens)
Coût du prompt
(par 1M tokens)
Coût de la réponse
(par 1M tokens)
Comment ça marche GPT OSS 20B Batch?
GPT OSS 20B est un modèle open source OpenAI : 21 milliards de paramètres, architecture Mixture-of-Experts, avec 3,6 milliards de paramètres actifs par passage, nécessitant moins de calculs qu'un modèle dense de même taille. La licence Apache 2.0 facilite l'utilisation des poids. La version batch est conçue pour un traitement par lots plutôt qu'interactif : les requêtes sont mises en file d'attente et traitées par paquets. Sur BotHub, le modèle est accessible sans VPN ni carte étrangère, avec un paiement en roubles à l'usage, sans abonnement, et les jetons non utilisés ne sont pas perdus. Une API unique compatible OpenAI donne accès à tout le catalogue, permettant de changer de modèle sans réécrire l'intégration ; le trafic est chiffré via AES-GCM, et pour les entreprises, nous proposons contrats, factures, EDI et un panneau d'administration avec limites. L'approche par lots est idéale lorsque le volume prime sur la réponse instantanée : marquage et classification de grands volumes de texte, génération de descriptions de catalogue, résumé d'archives et de correspondances, préparation de jeux de données synthétiques, exécutions hors ligne et comparaison de prompts.Questions fréquentes sur GPT OSS 20B Batch
Vous pouvez utiliser les résultats générés à des fins commerciales. Tous les droits sur le contenu créé vous appartiennent. Seule restriction : vérifiez que la requête ne contient pas de contenus protégés par le droit d'auteur appartenant à des tiers. Le respect des droits sur les données d'entrée relève de votre responsabilité.
C'est un modèle textuel avec un contexte de 131 072 jetons et un mode de raisonnement. Adapté au code, à l'analyse de documents, aux tâches STEM et aux scénarios d'agents avec appel d'outils. Le mode batch est pratique pour traiter de nombreuses requêtes similaires par lots.
La limite de sortie est de 117 964 jetons par réponse, couvrant largement les textes techniques longs, le refactoring volumineux, les analyses détaillées et les rapports structurés. Le contexte global du dialogue, incluant l'entrée, est limité à 131 072 jetons.
Oui, le mode de raisonnement est confirmé : le modèle construit une chaîne d'étapes intermédiaires avant la réponse finale. Cela aide considérablement en mathématiques, logique, débogage de code et pour les tâches nécessitant de prendre en compte plusieurs conditions séquentiellement.
Oui, le 'function calling' et la sortie structurée en JSON sont pris en charge. Le modèle peut être connecté à des outils externes, et via l'API BotHub compatible OpenAI, vous pouvez passer à un autre modèle sans réécrire l'intégration.
Selon nos données, en plus du texte, les documents sont acceptés en entrée — ils sont faciles à analyser, résumer et extraire des données. Pour les images, l'audio et la vidéo, BotHub propose des modèles multimodaux distincts dans la même interface.
Le modèle est conçu pour le multilinguisme, il traite donc les requêtes en russe. Il est préférable d'évaluer la qualité sur vos propres tâches : sur BotHub, vous pouvez envoyer le même prompt à plusieurs modèles dans une seule fenêtre et comparer les résultats.