Le filThèmes : RechercheInfraÉvaluations
Remplacer les grands modèles de langage par des modèles de décision Jev pour l’orchestration de services en périphérie à faible latence
1 sourcemis à jour il y a 5 jpertinence 2,8 sur5
L’essentiel
Les requêtes de service en langage naturel peuvent nécessiter une décision d’un modèle de langage avant le début de l’exécution, ce qui consomme une partie du budget de latence de la requête.
Propagation1 article, publié par HF Daily Papers le 2 oct..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceDelong Li, Xu Wang, Haochen Gong et al.huggingface.co
Replacing Large Language Models with Jev Decision Models for Low-Latency Edge Service Orchestration (site externe)
Natural-language service requests can require a language-model decision before execution starts, consuming part of the request’s latency budget.
Sur les mêmes thèmes
Recherche
KernelZero fait évoluer conjointement deux modèles pour générer de meilleurs noyaux GPU
Recherche
La compression du KV-cache par blocs crée des points faibles périodiques dans la récupération d’information
Recherche
SoL-Refiner : raffinement en une étape à la vitesse de la lumière pour la vidéo haute résolution
Évaluations
SkillSeek montre que BM25 rivalise avec la recherche agentique de skills pour les agents
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5