Fiche modèle
Llama 3.1-8B
Meta AI · poids ouverts · sorti le 23/07/2024
Date de sortie, éditeur et accès : Epoch AI, CC BY 4.0. Fiche régénérée le 07/10/2026.
Taille
8,0 Md
paramètres
Scores
Rang parmi les 274 modèles de l’indice ECI évalués par la même source. Un nom de benchmark mène à son explication.
| Benchmark | Score | Rang | Réglage | Source |
|---|---|---|---|---|
| Indice de capacités ECI (Epoch AI)Capacités générales | 116,6106,2–121,1 | 212 / 274 | Epoch AI, CC BY 4.0, non daté par la source, vu publié le 07/10/2026 | |
| LMArena texte, contrôle du styleConversation (préférence humaine) | 1 2111 207–1 215 | 147 / 166 | « llama-3.1-8b-instruct » | LMArena, CC BY 4.0, publié le 02/10/2026 |
| GPQA Diamond (Epoch AI)Sciences | 27,0 %23,3–30,6 | 178 / 186 | réglage « Llama-3.1-8B-Instruct » | Epoch AI, CC BY 4.0, publié le 27/08/2026 |
| FrontierMath, niveaux 1 à 3 (Epoch AI) | non évalué par Epoch AI | |||
| OTIS Mock AIME 2024-2025 (Epoch AI)Maths de concours | 1,7 %-0,2–3,5 | 167 / 176 | réglage « Llama-3.1-8B-Instruct » | Epoch AI, CC BY 4.0, publié le 27/08/2026 |
| SimpleQA Verified (Epoch AI) | non évalué par Epoch AI | |||
| SWE-bench Verified (Epoch AI) | non évalué par Epoch AI | |||
Sources : Epoch AI, « Capabilities & benchmarking », epoch.ai/benchmarks (CC BY 4.0) ; LMArena, leaderboard-dataset (Hugging Face), CC BY 4.0. Données adaptées : pourcentages, arrondis, meilleur réglage retenu, prix mélangé, rangs et frontière calculés ici.
Prix par fournisseur d’API
| Fournisseur | Entrée $/M | Sortie $/M | Mélangé | Clé LiteLLM |
|---|---|---|---|---|
| Novita AI | 0,020 $ | 0,050 $ | 0,028 $ | novita/meta-llama/llama-3.1-8b-instruct |
| Lambda | 0,025 $ | 0,040 $ | 0,029 $ | lambda_ai/llama3.1-8b-instruct |
| Nebius | 0,020 $ | 0,060 $ | 0,030 $ | nebius/meta-llama/Meta-Llama-3.1-8B-Instruct |
| Nscale | 0,030 $ | 0,030 $ | 0,030 $ | nscale/meta-llama/Llama-3.1-8B-Instruct |
| DeepInfra | 0,030 $ | 0,050 $ | 0,035 $ | deepinfra/meta-llama/Meta-Llama-3.1-8B-Instruct |
| Cerebras | 0,10 $ | 0,10 $ | 0,10 $ | cerebras/llama3.1-8b |
| OVHcloud | 0,10 $ | 0,10 $ | 0,10 $ | ovhcloud/Llama-3.1-8B-Instruct |
| Hyperbolic | 0,12 $ | 0,30 $ | 0,16 $ | hyperbolic/meta-llama/Meta-Llama-3.1-8B-Instruct |
| Together AI | 0,18 $ | 0,18 $ | 0,18 $ | together_ai/meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo |
| Cloudflare Workers AI | 0,15 $ | 0,29 $ | 0,19 $ | cloudflare/@cf/meta/llama-3.1-8b-instruct-fp8 |
| Perplexity | 0,20 $ | 0,20 $ | 0,20 $ | perplexity/llama-3.1-8b-instruct |
| Amazon Bedrock | 0,22 $ | 0,22 $ | 0,22 $ | meta.llama3-1-8b-instruct-v1:0 |
| Weights & Biases | 0,22 $ | 0,22 $ | 0,22 $ | wandb/meta-llama/Llama-3.1-8B-Instruct |
| Databricks | 0,15 $ | 0,45 $ | 0,22 $ | databricks/databricks-meta-llama-3-1-8b-instruct |
| Snowflake | 0,24 $ | 0,24 $ | 0,24 $ | snowflake/llama3.1-8b |
| Oracle Cloud | 0,72 $ | 0,72 $ | 0,72 $ | oci/meta.llama-3.1-8b-instruct |
$ par million de jetons, tarif catalogue sans remise, sans cache ni traitement par lots. 16 offres rapprochées. Écart entre le moins cher (Novita AI, 0,028 $) et le plus cher : × 26,2. Relevé du 07/10/2026 ; vérifier chez le fournisseur avant de choisir. Sources : Prix : LiteLLM (BerriAI), licence MIT, © 2023 Berri AI. Données adaptées : pourcentages, arrondis, meilleur réglage retenu, prix mélangé, rangs et frontière calculés ici.
L’héberger soi-même
- Accès aux poids
- poids ouverts, usage restreint par la licence (Epoch AI, CC BY 4.0)
- Licence
- Llama 3.1 Community License (carte du dépôt, déclaration de l’éditeur lue le 01/10/2026 ; lire la licence avant tout usage commercial)
- Taille
- 8,0 Md de paramètres (Epoch AI, CC BY 4.0 ; confiance d’Epoch : Likely ; note : « 8B »)
- Poids
- huggingface.co/meta-llama/Llama-3.1-8B-Instruct (dépôt rapproché par la table de correspondance, existence vérifiée auprès de Hugging Face le 01/10/2026) Téléchargement soumis à l’acceptation des conditions de l’éditeur sur le dépôt.
Mémoire nécessaire
| Format des poids | Poids seuls | Ordre de grandeur du matériel |
|---|---|---|
| BF16 (pleine précision usuelle) | 16 Go | une carte graphique grand public de 24 Go |
| FP8 / 8 bits | 8,0 Go | un ordinateur avec 16 Go de mémoire, ou une carte graphique de 16 Go |
| 4 bits (GGUF Q4_K_M, environ 4,8 bits par paramètre) | 4,8 Go | un ordinateur avec 16 Go de mémoire, ou une carte graphique de 16 Go |
Calcul du Crible : 8,0 Md de paramètres × 2 octets (BF16), × 1 (FP8), × 0,6 environ (4 bits). Ajouter le cache de contexte, qui grandit avec la longueur des conversations et le nombre d’utilisateurs.
Outils
- vLLM (serveur, cartes graphiques) :
vllm serve meta-llama/Llama-3.1-8B-Instructsert le dépôt Hugging Face derrière une API compatible OpenAI. Le modèle doit être pris en charge par la version installée. - llama.cpp (ordinateur, processeur ou carte graphique) : lit les poids au format GGUF, souvent publiés en 4 bits par la communauté. Chercher une version GGUF (rien ne garantit qu’elle existe ni qu’elle est fidèle), puis
llama-server -hf <dépôt GGUF>. - Ollama (le plus simple sur un ordinateur) :
ollama run hf.co/<dépôt GGUF>lance une version GGUF publiée sur Hugging Face.
Commandes d’après la documentation de chaque outil (liens ci-dessus). Les tailles, l’accès et les liens viennent des sources citées ; de Hugging Face, Le Crible ne reprend que l’adresse du dépôt et l’identifiant de licence déclaré sur sa carte. Sources : Epoch AI, « Data on AI models », epoch.ai/data/ai-models (CC BY 4.0) ; LMArena, leaderboard-dataset (Hugging Face), CC BY 4.0. Données adaptées : pourcentages, arrondis, meilleur réglage retenu, prix mélangé, rangs et frontière calculés ici.
Évolution
Aucun changement de prix relevé depuis le début de nos relevés quotidiens.