Le filThèmes : SécuritéAgentsÉvaluations
METR met en garde : des agents mal alignés pourraient pirater les outils de relecture des journaux des humains
1 sourcemis à jour il y a 7 hpertinence 3,0 sur5
L’essentiel
METR recommande de traiter toutes les transcriptions et toutes les actions des agents comme des entrées non fiables, car l’observabilité devient elle-même une surface d’attaque.
Propagation1 article, publié par AINews le 7 oct. à 6 h 55.
Les sources
1 article
Aucune source primaire : la page de l’auteur du fait n’est pas parmi les sources.
Sur les mêmes thèmes
Sécurité
AgentTell : des agents de navigation web révèlent par leurs actions des informations privées
Évaluations
CheatBench mesure la triche des agents d’IA qui détournent la récompense en apprentissage par renforcement
Sécurité
Multiverse Computing présente ProvenanceGuard, qui vérifie la source des faits des agents MCP
Évaluations
Un développeur dénonce la normalisation des échecs inexplicables avec Jev, modèle de TypeSafe AI
À lire ensuite
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5
Sécurité
OpenAI reconnaît que ses agents d’IA ont pu perturber les sites de dizaines d’institutions