Fiche modèle
Mixtral 8x7B
Mistral AI · poids ouverts · sorti le 11/12/2023
Date de sortie, éditeur et accès : Epoch AI, CC BY 4.0. Fiche régénérée le 07/10/2026.
Scores
Rang parmi les 274 modèles de l’indice ECI évalués par la même source. Un nom de benchmark mène à son explication.
| Benchmark | Score | Rang | Réglage | Source |
|---|---|---|---|---|
| Indice de capacités ECI (Epoch AI)Capacités générales | 118,5110,4–121,1 | 205 / 274 | Epoch AI, CC BY 4.0, non daté par la source, vu publié le 07/10/2026 | |
| LMArena texte, contrôle du style | absent du classement LMArena, ou nom non rapproché par la table de correspondance | |||
| GPQA Diamond (Epoch AI)Sciences | 30,6 %26,8–34,4 | 172 / 186 | réglage « Mixtral-8x7B-Instruct-v0.1 » | Epoch AI, CC BY 4.0, publié le 27/01/2025 |
| FrontierMath, niveaux 1 à 3 (Epoch AI) | non évalué par Epoch AI | |||
| OTIS Mock AIME 2024-2025 (Epoch AI) | non évalué par Epoch AI | |||
| SimpleQA Verified (Epoch AI) | non évalué par Epoch AI | |||
| SWE-bench Verified (Epoch AI) | non évalué par Epoch AI | |||
Sources : Epoch AI, « Capabilities & benchmarking », epoch.ai/benchmarks (CC BY 4.0). Données adaptées : pourcentages, arrondis, meilleur réglage retenu, prix mélangé, rangs et frontière calculés ici.
Prix par fournisseur d’API
| Fournisseur | Entrée $/M | Sortie $/M | Mélangé | Clé LiteLLM |
|---|---|---|---|---|
| Perplexity | 0,070 $ | 0,28 $ | 0,12 $ | perplexity/mixtral-8x7b-instruct |
| Fireworks AI | 0,50 $ | 0,50 $ | 0,50 $ | fireworks_ai/accounts/fireworks/models/mixtral-8x7b |
| Amazon Bedrock | 0,45 $ | 0,70 $ | 0,51 $ | mistral.mixtral-8x7b-instruct-v0:1 |
$ par million de jetons, tarif catalogue sans remise, sans cache ni traitement par lots. 3 offres rapprochées. Écart entre le moins cher (Perplexity, 0,12 $) et le plus cher : × 4,2. Relevé du 07/10/2026 ; vérifier chez le fournisseur avant de choisir. Sources : Prix : LiteLLM (BerriAI), licence MIT, © 2023 Berri AI. Données adaptées : pourcentages, arrondis, meilleur réglage retenu, prix mélangé, rangs et frontière calculés ici.
L’héberger soi-même
- Accès aux poids
- poids libres (usage sans restriction) (Epoch AI, CC BY 4.0)
- Licence
- Apache 2.0 (carte du dépôt, déclaration de l’éditeur lue le 01/10/2026 ; lire la licence avant tout usage commercial)
- Taille
- 47 Md de paramètres (Epoch AI, CC BY 4.0 ; confiance d’Epoch : Speculative ; note : « 46.7B *sparse* params. 12.9B params used on average: "Concretely, Mixtral has 46.7B total parameters but only uses 12.9B parameters per token. It, therefore, processes input and generates output at the same speed and for the same cost as a »)
- Poids
- huggingface.co/mistralai/Mixtral-8x7B-Instruct-v0.1 (dépôt rapproché par la table de correspondance, existence vérifiée auprès de Hugging Face le 01/10/2026)
Mémoire nécessaire
| Format des poids | Poids seuls | Ordre de grandeur du matériel |
|---|---|---|
| BF16 (pleine précision usuelle) | 93 Go | deux à quatre cartes de 80 Go, ou un Mac de 192 Go |
| FP8 / 8 bits | 47 Go | une carte de centre de données de 80 Go, ou un Mac de 96 Go |
| 4 bits (GGUF Q4_K_M, environ 4,8 bits par paramètre) | 28 Go | deux cartes de 24 Go, ou un Mac de 64 Go de mémoire unifiée |
Calcul du Crible : 47 Md de paramètres × 2 octets (BF16), × 1 (FP8), × 0,6 environ (4 bits). Ajouter le cache de contexte, qui grandit avec la longueur des conversations et le nombre d’utilisateurs.
Outils
- vLLM (serveur, cartes graphiques) :
vllm serve mistralai/Mixtral-8x7B-Instruct-v0.1sert le dépôt Hugging Face derrière une API compatible OpenAI. Le modèle doit être pris en charge par la version installée. - llama.cpp (ordinateur, processeur ou carte graphique) : lit les poids au format GGUF, souvent publiés en 4 bits par la communauté. Chercher une version GGUF (rien ne garantit qu’elle existe ni qu’elle est fidèle), puis
llama-server -hf <dépôt GGUF>. - Ollama (le plus simple sur un ordinateur) :
ollama run hf.co/<dépôt GGUF>lance une version GGUF publiée sur Hugging Face.
Commandes d’après la documentation de chaque outil (liens ci-dessus). Les tailles, l’accès et les liens viennent des sources citées ; de Hugging Face, Le Crible ne reprend que l’adresse du dépôt et l’identifiant de licence déclaré sur sa carte. Sources : Epoch AI, « Data on AI models », epoch.ai/data/ai-models (CC BY 4.0) ; LMArena, leaderboard-dataset (Hugging Face), CC BY 4.0. Données adaptées : pourcentages, arrondis, meilleur réglage retenu, prix mélangé, rangs et frontière calculés ici.
Évolution
Pas encore deux classements LMArena relevés pour ce modèle.
Aucun changement de prix relevé depuis le début de nos relevés quotidiens.