Le filThèmes : ÉvaluationsAgentsRecherche
RegLLM propose un banc de diagnostic de l’autonomie bornée pour les agents d’IA en secteur régulé
1 sourcemis à jour il y a 6 jpertinence 3,0 sur5
L’essentiel
Sur une exécution hors ligne (n=12), le rappel d’escalade passe de 0 à 0,67 et le taux d’actions dangereuses de 0,33 à 0,08 avec la gouvernance. Deux petits essais de fine-tuning de Qwen2.5-3B montrent une forte variance de configuration.
Propagation1 article, publié par HF Daily Papers le 1 oct..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceDipankar Sarkarhuggingface.co
Evaluating Bounded Autonomy in Regulated Agentic AI: A Diagnostic Harness with Constitutional Rewards, Escalation Labels, and Runtime Governance (site externe)
We propose RegLLM, a diagnostic harness for bounded autonomy in regulated agentic workflows.
Sur les mêmes thèmes
Agents
SkillSeek montre que BM25 rivalise avec la recherche agentique de skills pour les agents
Agents
VeriHarness transforme le LLM d’un générateur en agent vérificateur pour les tâches longues
Agents
MILO fait évoluer des harnais d’agents et leur stratégie de recherche, et dépasse huit harnais de référence
Évaluations
Des chercheurs suggèrent que les modèles de langage tendent à présenter par défaut des récits de succès
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5