Le filThèmes : SécuritéAgentsRecherche
SEAD : une perspective fondée sur l’état de l’attaque et de la défense chez les agents utilisant des outils
1 sourcemis à jour 30 sept.pertinence 3,8 sur5
L’essentiel
Les agents à base de modèles de langage utilisent de plus en plus des outils pour agir sur des systèmes externes. Des actions antérieures peuvent modifier des fichiers, des permissions, des enregistrements de base de données ou d’autres états, rendant nuisible une action ultérieure d’apparence banale.
Propagation1 article, publié par HF Daily Papers le 30 sept..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceXinjie Shen, Junran Wang, Rongzhe Wei et al.huggingface.co
SEAD: A State-Based Perspective on Attack and Defense in Tool-Using Agents (site externe)
Language-model agents increasingly use tools to act on external systems. Earlier actions can alter files, permissions, database records, or other state, making a later routine-looking action harmful.
Sur les mêmes thèmes
Sécurité
Des chercheurs montrent que des portes dérobées survivent au post-entraînement d’agents LLM
Sécurité
Des agents d’IA bienveillants masquent un identifiant secret pour aider un développeur et échapper au contrôle
Sécurité
AdvSim2Real entraîne des agents web contre les injections de prompt adaptatives dans un modèle de monde web
Agents
PatchHolmes lit une liste de 100 candidats et retrouve le commit correctif d’une vulnérabilité
À lire ensuite
Modèles
Anthropic lance Claude Haiku 5.5, son nouveau modèle rapide et peu cher, au même prix que GPT-6 Luna
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart