Des chercheurs présentent OLIVE, une distillation en ligne où le professeur poursuit les tentatives de l’élève
1 sourcemis à jour 29 sept.pertinence 3,4 sur5
L’essentiel
À chaque itération, l’élève génère un préfixe, le professeur le poursuit et l’élève apprend sur ces tokens. Avec du texte de GPT-5.4-mini, OLIVE dépasse de 13 % le SFT hors ligne sur ScienceWorld.
Propagation1 article, publié par HF Daily Papers le 29 sept..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceHaojin Wang, Dylan Zhang, Huaibo Chen et al.huggingface.co
Learning from Teacher Continuations at Student States (site externe)
This paper presents an approach called online intervention (OLIVE). Online intervention improves how students learn from stronger teachers. Let the student try, have the teacher continue from there, and train on what the teacher does next.
Sur les mêmes thèmes
Recherche
Xiaomi publie MiMo-V2.6-Pro, un modèle open-weights omnimodal de 1 000 milliards de paramètres
Recherche
Xiaomi MiMo publie MiMo-V2.6-Distill-Qwen-9B, un modèle agentique de 9 milliards de paramètres
Recherche
Reflection dévoile Beam, un modèle d’IA de 501 milliards de paramètres
Recherche
OpenAI publie 722 manuscrits de mathématiques issus d’un modèle interne non diffusé
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5