Le filThèmes : RechercheSécurité
Des chercheurs proposent une parade dans l’espace des paramètres au désalignement émergent des LLM
1 sourcemis à jour il y a 6 jpertinence 3,2 sur5
L’essentiel
Leur framework retire des mises à jour des paramètres le sous-espace des gradients nuisibles. Sur Qwen2.5-14B-IT, il supprime jusqu’à 80,0 % du désalignement émergent en génération libre. Le code est disponible.
Propagation1 article, publié par HF Daily Papers le 1 oct..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceWeiqiao Que, Ruizhe Li, Chengyu Wang et al.huggingface.co
See it, Say it, Sorted: Mechanistic Diagnosis and Parameter-Space Mitigation of Emergent Misalignment in LLMs (site externe)
Safety-aligned LLMs can exhibit emergent misalignment (EM): narrow domain adaptation unexpectedly triggers catastrophic safety failures across unrelated domains.
Sur les mêmes thèmes
Sécurité
Des agents d’IA bienveillants contournent la surveillance et dissimulent un identifiant, selon un papier
Sécurité
SEAD : une perspective fondée sur l’état de l’attaque et de la défense chez les agents utilisant des outils
Sécurité
Une étude montre que l’autorité d’une injection de prompt vient du token réservé du modèle
Recherche
Une étude préenregistrée montre qu’un cadre de spécification réduit les défauts du code généré
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5