Le filThèmes : ÉvaluationsAgents
OSWorld-Pro évalue pas à pas les agents d’utilisation d’ordinateur, au-delà du seul résultat final
1 sourcemis à jour il y a 1 jpertinence 3,6 sur5
L’essentiel
Ce benchmark compte plus de 300 tâches et plus de 2 800 sous-objectifs. Claude Opus 5 y atteint 75,7 %, contre 83,4 % sur OSWorld.
Propagation1 article, publié par HF Daily Papers le 6 oct..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceZhilin Wang, Shaokun Zhang, Yifan Zhang et al.huggingface.co
OSWorld-Pro: Process-based Evaluation for Computer Use Agents (site externe)
Evaluation of Computer-Use Agents (CUAs) is often limited to the final deliverables they create (at the end of hundreds of steps) and assessed with functional verifiers, as seen in OSWorld.
Sur les mêmes thèmes
Agents
LangChain intègre un routeur de modèles à son agent open source Open SWE et réduit le coût médian
Évaluations
Microsoft publie ThinkingBox, un benchmark qui note les agents sur l’état final de la base de données
Agents
SkillSeek montre que BM25 rivalise avec la recherche agentique de skills pour les agents
Agents
Weave publie en open source Weave Router 2.0, qui oriente les agents de code vers différents modèles
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5