Le filThèmes : RechercheInfraAgents
HeteroFold transfère le cache KV entre des familles de modèles sans nouveau prefill chez le récepteur
1 sourcemis à jour il y a 5 jpertinence 3,3 sur5
L’essentiel
Les chercheurs gardent l’émetteur et le récepteur figés. À 32 000 tokens de contexte, le transfert de Llama-3.1-8B vers Ministral-3-14B est 10,7 fois plus rapide que le prefill natif et 1,18 à 1,47 fois plus que Dense Latent et KV Ridge.
Propagation1 article, publié par HF Daily Papers le 2 oct..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceVincent-Daniel Yun, Woosang Lim, Haneul Yoo et al.huggingface.co
Prefill-Free Cross-Family KV Cache Transfer for Heterogeneous Multi-Agent LLMs (site externe)
Recent multi-agent LLM systems increasingly combine heterogeneous models for specialized agent roles. However, text-based communication requires each receiver to prefill shared context already processed by the sender.
Sur les mêmes thèmes
Infra
AgSpec accélère le décodage spéculatif par récupération dans les pipelines d’agents de code
Recherche
Des chercheurs présentent les Context Language Models, qui gèrent eux-mêmes leur contexte comme un fichier
Agents
QwenGyre, un framework de RL élastique, entraîne des agents d’IA sur des tâches très longues
Agents
Des chercheurs présentent SSR, qui remplace le raisonnement libre des agents de recherche par une sélection
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5