Le filThèmes : ÉvaluationsAgentsRecherche
OSWorld-Science évalue des agents d’usage de l’ordinateur sur des logiciels scientifiques
1 sourcemis à jour il y a 6 jpertinence 3,2 sur5
L’essentiel
Ce benchmark compte 146 tâches et 12 modèles de vision et langage, avec des évaluateurs qui inspectent les résultats produits. Les modèles actuels, même avec un harnais solide, peinent encore sur des questions scientifiques clés.
Propagation1 article, publié par HF Daily Papers le 1 oct..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceDingyuan Dai, Heli Qi, Lei Liu et al.huggingface.co
OSWorld-Science: A Benchmark of Computer Use Agents for Learning and Using Scientific Software (site externe)
Scientific software presents a demanding test for computer-using agents based on visual language models (VLMs): completing a research workflow requires interpreting specialized interfaces, manipulating scientific objects, and producing verifiable results.
Sur les mêmes thèmes
Agents
SkillSeek montre que BM25 rivalise avec la recherche agentique de skills pour les agents
Agents
VeriHarness transforme le LLM d’un générateur en agent vérificateur pour les tâches longues
Agents
MILO fait évoluer des harnais d’agents et leur stratégie de recherche, et dépasse huit harnais de référence
Évaluations
Des chercheurs suggèrent que les modèles de langage tendent à présenter par défaut des récits de succès
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5