Des transformers autorégressifs extrapolent des dynamiques chaotiques sans en avoir vu pendant l’entraînement
1 sourcemis à jour il y a 6 jpertinence 2,8 sur5
L’essentiel
Entraînés sur des régimes simples, de petits transformers reproduisent des cascades de doublement de période jusqu’à la période 128. Pour la suite logistique, le rapport obtenu, 4,6687, approche la constante de Feigenbaum à 5×10^-4 près.
Propagation1 article, publié par HF Daily Papers le 1 oct..
Les sources
1 article
HF Daily PapersCommunauté : fiche de la sourceSource primaire
Hugging FaceYilun Liu, Yi Zhang, Ganyu Wu et al.huggingface.co
Learning Chaos Without Seeing Chaos: Extrapolation of Global Dynamics in Autoregressive Transformers (site externe)
We demonstrate that autoregressive transformers trained only on trivial regimes of dynamical systems can extrapolate to unseen sophisticated global organizations, including period-doubling cascades, chaos, and attractor structures.
Sur les mêmes thèmes
Recherche
Xiaomi publie MiMo-V2.6-Pro, un modèle open-weights omnimodal de 1 000 milliards de paramètres
Recherche
Xiaomi MiMo publie MiMo-V2.6-Distill-Qwen-9B, un modèle agentique de 9 milliards de paramètres
Recherche
Reflection dévoile Beam, un modèle d’IA de 501 milliards de paramètres
Recherche
OpenAI publie 722 manuscrits de mathématiques issus d’un modèle interne non diffusé
À lire ensuite
Modèles
Google DeepMind annonce Gemini 4 Argon, déployé d’abord auprès de défenseurs cyber de confiance via Fairwind
Modèles
OpenAI lance GPT-6 Sol et GPT-6 Luna, deux modèles plus économiques qui complètent GPT-6 Astra
Modèles
Anthropic publie Claude Opus 5.5 et OpenAI lance GPT-6 Sol et GPT-6 Luna à environ une heure d’écart
Modèles
Anthropic lance Claude Sonnet 5.5, deuxième modèle de la famille Claude 5.5