Une étude de l’UT Austin montre qu’une compression à un tiers des tokens peut ralentir de 20 à 80 %

6 octobre 2026, 8 h 281 sourcemis à jour il y a 1 jpertinence 3,0 sur5

L’essentiel

Sur environ 35 000 exécutions, la compression qui utilise un tiers des tokens peut être 20 à 80 % plus lente que le contexte complet. Les déclencheurs à seuil battent ceux à pas, et la meilleure politique varie selon le modèle.

Propagation1 article, publié par AINews le 6 oct. à 8 h 28.

Les sources

1 article

Aucune source primaire : la page de l’auteur du fait n’est pas parmi les sources.

AINewsRelais6 oct., 8 h 28
x.com
UT Austin compression study: Across ~35K runs, compression that uses a third of the tokens can be 20–80% slower than full context. Threshold triggers beat step triggers, and the best policy varies by model (summary). (site externe)

Sur les mêmes thèmes

Évaluations
SkillSeek montre que BM25 rivalise avec la recherche agentique de skills pour les agents
Pertinence 4,0 sur51 sourceil y a 6 j
Évaluations
VeriHarness transforme le LLM d’un générateur en agent vérificateur pour les tâches longues
Pertinence 3,8 sur51 sourceil y a 2 j
Évaluations
Une étude montre que la date cachée dans les prompts système fait varier les évaluations de LLM
Pertinence 3,8 sur51 sourceil y a 6 j
Évaluations
MILO fait évoluer des harnais d’agents et leur stratégie de recherche, et dépasse huit harnais de référence
Pertinence 3,8 sur51 sourceil y a 6 j

Une étude de l’UT Austin montre qu’une compression à un tiers des tokens peut ralentir de 20 à 80 %

L’essentiel

Les sources

UT Austin compression study: Across ~35K runs, compression that uses a third of the tokens can be 20–80% slower than full context. Threshold triggers beat step triggers, and the best policy varies by model (summary). (site externe)

Sur les mêmes thèmes

SkillSeek montre que BM25 rivalise avec la recherche agentique de skills pour les agents

VeriHarness transforme le LLM d’un générateur en agent vérificateur pour les tâches longues

Une étude montre que la date cachée dans les prompts système fait varier les évaluations de LLM

MILO fait évoluer des harnais d’agents et leur stratégie de recherche, et dépasse huit harnais de référence

À lire ensuite

Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind

OpenAI lance GPT-⁠6 Sol et GPT-⁠6 Luna, deux modèles plus économiques qui complètent GPT-⁠6 Astra

Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-⁠6 Sol et GPT-⁠6 Luna à environ une heure d’écart

Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5