Le filThèmes : RechercheSécurité
Un papier montre que les gradients aggravent la fuite de texte dans les modèles scindés
1 sourcemis à jour il y a 1 jpertinence 3,2 sur5
L’essentiel
Sur GPT-2, un attaquant retrouve 94,20 % des tokens avec les activations seules et 97,38 % avec les gradients. Il reconstruit exactement 13,71 % des documents de 32 tokens sans les gradients, 37,77 % avec.
Propagation1 article, publié par HF Daily Papers le 6 oct..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceGeorgios Politis, Evangelos Pappashuggingface.co
What Gradients Add to Text Leakage in Split Language Models, Counted per Token and per Document (site externe)
Split learning lets a client train a language model on a server without sending its text. The client runs the first layers itself and sends the server only their output, a vector of numbers for each token. During training, the server sends gradients back.
Sur les mêmes thèmes
Sécurité
Des agents d’IA bienveillants contournent la surveillance et dissimulent un identifiant, selon un papier
Sécurité
SEAD : une perspective fondée sur l’état de l’attaque et de la défense chez les agents utilisant des outils
Sécurité
Une étude montre que l’autorité d’une injection de prompt vient du token réservé du modèle
Recherche
Une étude préenregistrée montre qu’un cadre de spécification réduit les défauts du code généré
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5