Le filThèmes : ÉvaluationsRecherche
Une étude d’audit montre que les classements de LLM sur de petits jeux de prompts sont peu reproductibles
1 sourcemis à jour 29 sept.pertinence 3,6 sur5
L’essentiel
Sur huit variantes de modèles, seul le bas du classement tient : les deux modèles les moins reproductibles gardent leur rang dans 99 % et 86 % des réplicats, les deux premiers dans 68 % chacun.
Propagation1 article, publié par HF Daily Papers le 29 sept..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceDipankar Sarkarhuggingface.co
How Reproducible Are Evaluation Conclusions? A Self-Audit of LLM-Inferred Prompt Structure (site externe)
Evaluations of LLM systems routinely average over small prompt sets and report models as a ranked table.
Sur les mêmes thèmes
Évaluations
SkillSeek montre que BM25 rivalise avec la recherche agentique de skills pour les agents
Évaluations
VeriHarness transforme le LLM d’un générateur en agent vérificateur pour les tâches longues
Évaluations
Une étude montre que la date cachée dans les prompts système fait varier les évaluations de LLM
Évaluations
MILO fait évoluer des harnais d’agents et leur stratégie de recherche, et dépasse huit harnais de référence
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5