Fiche modèle
MPT-7B
MosaicML · poids ouverts · sorti le 05/05/2023
Date de sortie, éditeur et accès : Epoch AI, CC BY 4.0. Fiche régénérée le 07/10/2026.
Scores
Rang parmi les 274 modèles de l’indice ECI évalués par la même source. Un nom de benchmark mène à son explication.
| Benchmark | Score | Rang | Réglage | Source |
|---|---|---|---|---|
| Indice de capacités ECI (Epoch AI)Capacités générales | 94,680,5–101,6 | 259 / 274 | Epoch AI, CC BY 4.0, non daté par la source, vu publié le 07/10/2026 | |
| LMArena texte, contrôle du styleConversation (préférence humaine) | 1 0631 051–1 075 | 163 / 166 | « mpt-7b-chat » | LMArena, CC BY 4.0, publié le 02/10/2026 |
| GPQA Diamond (Epoch AI) | non évalué par Epoch AI | |||
| FrontierMath, niveaux 1 à 3 (Epoch AI) | non évalué par Epoch AI | |||
| OTIS Mock AIME 2024-2025 (Epoch AI) | non évalué par Epoch AI | |||
| SimpleQA Verified (Epoch AI) | non évalué par Epoch AI | |||
| SWE-bench Verified (Epoch AI) | non évalué par Epoch AI | |||
Sources : Epoch AI, « Capabilities & benchmarking », epoch.ai/benchmarks (CC BY 4.0) ; LMArena, leaderboard-dataset (Hugging Face), CC BY 4.0. Données adaptées : pourcentages, arrondis, meilleur réglage retenu, prix mélangé, rangs et frontière calculés ici.
Prix par fournisseur d’API
Aucun prix d’API pour ce modèle dans la table LiteLLM (ou aucun nom rapproché). Ce n’est pas la preuve qu’aucune offre n’existe.
L’héberger soi-même
- Accès aux poids
- poids libres (usage sans restriction) (Epoch AI, CC BY 4.0)
- Licence
- CC-BY-NC-SA-4.0 (LMArena, CC BY 4.0, classement du 02/10/2026 ; lire la licence avant tout usage commercial)
- Taille
- 7,0 Md de paramètres (Epoch AI, CC BY 4.0)
- Poids
- pas de dépôt officiel sur Hugging Face. Le dépôt officiel mosaicml/mpt-7b ne répond plus publiquement : retiré ou rendu privé par l'éditeur. (publication : www.mosaicml.com/blog/mpt-7b, lien d’Epoch AI)
Mémoire nécessaire
| Format des poids | Poids seuls | Ordre de grandeur du matériel |
|---|---|---|
| BF16 (pleine précision usuelle) | 14 Go | un ordinateur avec 16 Go de mémoire, ou une carte graphique de 16 Go |
| FP8 / 8 bits | 7,0 Go | un ordinateur avec 16 Go de mémoire, ou une carte graphique de 16 Go |
| 4 bits (GGUF Q4_K_M, environ 4,8 bits par paramètre) | 4,2 Go | un ordinateur avec 16 Go de mémoire, ou une carte graphique de 16 Go |
Calcul du Crible : 7,0 Md de paramètres × 2 octets (BF16), × 1 (FP8), × 0,6 environ (4 bits). Ajouter le cache de contexte, qui grandit avec la longueur des conversations et le nombre d’utilisateurs.
Outils
- vLLM (serveur, cartes graphiques) :
vllm serve <organisation/dépôt>avec le dépôt Hugging Face des poids, si le modèle y est publié. - llama.cpp (ordinateur, processeur ou carte graphique) : lit les poids au format GGUF, souvent publiés en 4 bits par la communauté. Chercher une version GGUF (rien ne garantit qu’elle existe ni qu’elle est fidèle), puis
llama-server -hf <dépôt GGUF>. - Ollama (le plus simple sur un ordinateur) :
ollama run hf.co/<dépôt GGUF>lance une version GGUF publiée sur Hugging Face.
Commandes d’après la documentation de chaque outil (liens ci-dessus). Les tailles, l’accès et les liens viennent des sources citées ; de Hugging Face, Le Crible ne reprend que l’adresse du dépôt et l’identifiant de licence déclaré sur sa carte. Sources : Epoch AI, « Data on AI models », epoch.ai/data/ai-models (CC BY 4.0) ; LMArena, leaderboard-dataset (Hugging Face), CC BY 4.0. Données adaptées : pourcentages, arrondis, meilleur réglage retenu, prix mélangé, rangs et frontière calculés ici.