Le filThèmes : RechercheÉvaluations
DiffGate guide la distillation on-policy par un enseignant uniquement sur les trajectoires en échec
1 sourcemis à jour il y a 13 hpertinence 3,0 sur5
L’essentiel
Avec Qwen3-0.6B et Qwen3-1.7B, DiffGate améliore l’avg@8 en code de 1,7 et 1,8 point par rapport à GRPO. Sur les mathématiques, l’avg@8 reste à moins de 0,5 point de GRPO.
Propagation1 article, publié par HF Daily Papers le 7 oct..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceKarn Tiwari, Varnith Chordia, Prathosh A Phuggingface.co
DiffGate: Difficulty-Gated Teacher Guidance for On-Policy Distillation (site externe)
On-policy distillation (OPD) has emerged as a widely used paradigm for post-training large language models, reducing the train--test mismatch of conventional distillation by supervising the student on its own generated trajectories.
Sur les mêmes thèmes
Recherche
NVIDIA affine Nemotron 3 et atteint le niveau or à l’IOI 2026 et à l’IMO 2026
Évaluations
SkillSeek montre que BM25 rivalise avec la recherche agentique de skills pour les agents
Évaluations
VeriHarness transforme le LLM d’un générateur en agent vérificateur pour les tâches longues
Évaluations
Une étude montre que la date cachée dans les prompts système fait varier les évaluations de LLM
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5