Le filThèmes : InfraRechercheOpen source
Des chercheurs proposent le continuous depth batching pour les modèles de langage à boucles
1 sourcemis à jour 28 sept.pertinence 3,2 sur5
L’essentiel
La méthode forme de nouveaux lots entre les boucles. Testée sur Ouro 1.4B et Huginn 3.5B, elle atteint jusqu’à 99 % de l’accélération maximale estimée, selon les auteurs, qui la présentent comme la première du genre.
Propagation1 article, publié par HF Daily Papers le 28 sept..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceKristian Schwethelm, Daniel Rueckert, Georgios Kaissishuggingface.co
Depth-adaptive Inference of Looped Language Models via Continuous Depth Batching (site externe)
A main promise of looped language models is depth-adaptive inference. By looping a block of shared layers a variable number of times, the model can use less compute for “easy” tokens and more for “hard” ones.
Sur les mêmes thèmes
Open source
Ai2 publie Olmo-core 3, son framework d’entraînement ouvert pour de grands modèles à mélange d’experts
Recherche
RayOrch, un moteur distribué, préserve les liens parent-enfant dans la préparation de données d’IA
Infra
Galahad, une couche mémoire pour vLLM, SGLang et llama.cpp, évite de relire les mêmes textes
Recherche
LoGRA réduit la mémoire de l’entraînement par RL des LLM grâce à des esquisses de gradient de bas rang
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5