Le filThèmes : ÉvaluationsRecherche
Un papier montre que les benchmarks à mots-clés créditent à tort de petits modèles d’un usage d’outils
1 sourcemis à jour il y a 5 jpertinence 3,3 sur5
L’essentiel
Deux modèles espagnols de 661,6 millions et 1 109 millions de paramètres obtiennent des scores proches (0,660 contre 0,650), mais le second émet des appels d’outils valides sur 0 exemple sur 6 contre 6 sur 6.
Propagation1 article, publié par HF Daily Papers le 2 oct..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceJuan S. Santillanahuggingface.co
Keyword Harnesses Fail Open: A Cheap Diagnostic Ladder for Tool-Use Claims in Small Language Models (site externe)
Keyword-matching benchmarks can credit small models for tool use they never perform. We document such a false positive in a matched-architecture pair of Spanish security language models and propose a ladder of strict, cheap diagnostics.
Sur les mêmes thèmes
Évaluations
SkillSeek montre que BM25 rivalise avec la recherche agentique de skills pour les agents
Évaluations
VeriHarness transforme le LLM d’un générateur en agent vérificateur pour les tâches longues
Évaluations
Une étude montre que la date cachée dans les prompts système fait varier les évaluations de LLM
Évaluations
MILO fait évoluer des harnais d’agents et leur stratégie de recherche, et dépasse huit harnais de référence
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5