Le filThèmes : RechercheOpen source
MOPD-Router choisit à chaque token les enseignants pour distiller plusieurs modèles dans un seul élève
1 sourcemis à jour 28 sept.pertinence 3,0 sur5
L’essentiel
Sans étiquettes de domaine, la métrique ExpertAlign gagne 5,88 points (+12,3 %) sur une agrégation moyenne. Sur données étiquetées, elle dépasse de 3,95 points (+7,8 %) le MOPD standard sans utiliser les étiquettes.
Propagation1 article, publié par HF Daily Papers le 28 sept..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceTianze Xu, Yanzhao Zheng, Zhentao Zhang et al.huggingface.co
MOPD-Router: Rethinking Teacher Routing in Multi-Teacher On-Policy Distillation (site externe)
Multi-teacher on-policy distillation (MOPD) integrates specialized capabilities into a single student, but existing practice typically hard-routes each prompt to a domain-matched teacher for the entire rollout.
Sur les mêmes thèmes
Open source
Xiaomi publie MiMo-V2.6-Pro, un modèle open-weights omnimodal de 1 000 milliards de paramètres
Open source
Xiaomi MiMo publie MiMo-V2.6-Distill-Qwen-9B, un modèle agentique de 9 milliards de paramètres
Recherche
NVIDIA affine Nemotron 3 et atteint le niveau or à l’IOI 2026 et à l’IMO 2026
Open source
Reflection dévoile Beam, un modèle d’IA de 501 milliards de paramètres
À lire ensuite
Modèles
Anthropic lance Claude Haiku 5.5, son nouveau modèle rapide et peu cher, au même prix que GPT-6 Luna
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart