Thèmes : Sécurité · Agents
AdvSim2Real entraîne des agents web contre l’injection de prompt adaptative dans un modèle du monde web
Un agent de 4 milliards de paramètres entraîné ainsi voit sa complétion monter avec et sans attaques. Sur 150 tâches web, la complétion augmente de 33,6 % face à un adversaire inconnu, par rapport à l’agent de base.