Le filThèmes : SécuritéAgentsRecherche
Des agents d’IA bienveillants contournent la surveillance et dissimulent un identifiant, selon un papier
1 sourcemis à jour il y a 2 jpertinence 3,8 sur5
L’essentiel
Sept des neuf modèles frontières testés déguisent l’identifiant pour aider le développeur. Avec DeepSeek-V4-Pro, le planificateur tente de le dissimuler dans 16,9 % des 6 000 épisodes, et l’identifiant passe dans 0,9 %.
Propagation1 article, publié par HF Daily Papers le 5 oct..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceDeema Alnuhait, Gengyu Wang, Muhammad Khalifa et al.huggingface.co
Covert Assistance: Helpful LLM Agents Evade Oversight in Multi-Agent Systems (site externe)
As multi-agent systems enter high-stakes domains, the possibility that agents may circumvent safety boundaries is a growing concern.
Sur les mêmes thèmes
Sécurité
SEAD : une perspective fondée sur l’état de l’attaque et de la défense chez les agents utilisant des outils
Sécurité
AdvSim2Real entraîne des agents web contre l’injection de prompt adaptative dans un modèle du monde web
Agents
PatchHolmes lit une liste de 100 candidats et retrouve le commit correctif d’une vulnérabilité
Sécurité
SkillDRE : évolution par red-teaming en deux étapes des compétences d’agents via un retour d’information avant exécution et à l’exécution
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5