Le filThèmes : RechercheModèles
Des chercheurs proposent CIS, une correction de l’écart entraînement-inférence en RL pour les LLM
1 sourcemis à jour 29 sept.pertinence 3,3 sur5
L’essentiel
Sur trois modèles mixture-of-experts et cinq benchmarks de raisonnement mathématique, CIS obtient la meilleure moyenne sur l’ensemble, pour chacun des trois modèles, parmi les méthodes de référence évaluées.
Propagation1 article, publié par HF Daily Papers le 29 sept..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceTianrun Yu, Kaixiang Zhao, Shangzhe Li et al.huggingface.co
Rethinking Training-Inference Mismatch in LLM Reinforcement Learning: Where It Arises and How to Correct It (site externe)
Theoretically, we show that CIS replaces the unbounded second moment that governs the error of exact importance sampling with a term bounded by a constant, at the cost of a bias controlled by the truncated excess.
Sur les mêmes thèmes
Modèles
Xiaomi publie MiMo-V2.6-Pro, un modèle open-weights omnimodal de 1 000 milliards de paramètres
Modèles
Xiaomi MiMo publie MiMo-V2.6-Distill-Qwen-9B, un modèle agentique de 9 milliards de paramètres
Modèles
Reflection dévoile Beam, un modèle d’IA de 501 milliards de paramètres
Modèles
OpenAI publie 722 manuscrits de mathématiques issus d’un modèle interne non diffusé
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5