Le filThèmes : ÉvaluationsAgents
IndicBankBench évalue la fiabilité d’assistants d’IA dans la banque de détail indienne
1 sourcemis à jour 28 sept.pertinence 3,5 sur5
L’essentiel
Ce benchmark compte 799 cas, chacun exécuté trois fois. Sur onze modèles, la fiabilité stricte (succès aux trois essais) va de 43,7 % à 58,2 %, contre 60 % à 74 % pour un succès au moins une fois.
Propagation1 article, publié par HF Daily Papers le 28 sept..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceSuvradip Paul, Chandra Bhushan, Harsh Sharma et al.huggingface.co
IndicBankBench: Evaluating Safety and Reliability of Language Model Assistants in Indian Retail Banking (site externe)
Banking assistants must use account-specific information to answer requests and, in many cases, take actions through tools. Evaluating only the final response misses important errors.
Sur les mêmes thèmes
Agents
LangChain intègre un routeur de modèles à son agent open source Open SWE et réduit le coût médian
Évaluations
Microsoft publie ThinkingBox, un benchmark qui note les agents sur l’état final de la base de données
Agents
SkillSeek montre que BM25 rivalise avec la recherche agentique de skills pour les agents
Agents
Weave publie en open source Weave Router 2.0, qui oriente les agents de code vers différents modèles
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5