Réseaux de neurones : comment l'optimisation converge réellement

Introduction : une bille dans un bol qui n'existe pas

L'explication la plus populaire de l'apprentissage automatique montre une bille qui descend dans un bol. La hauteur représente la perte, la position représente les paramètres, le gradient indique la pente, et la bille roule jusqu'au fond. Cette image explique une idée locale utile, mais elle devient trompeuse si on la prend au pied de la lettre.

Un réseau moderne peut contenir des millions ou des milliards de paramètres. Sa fonction de perte vit dans un espace dont personne ne peut visualiser directement la géométrie. Il existe des directions presque plates, des symétries qui produisent la même fonction, des cols, des couloirs, des vallées connectées et des changements de courbure. L'algorithme n'observe souvent qu'un mini-lot de données. Le gradient est donc bruité. Les paramètres sont stockés avec une précision finie. Le calcul est distribué sur de nombreux accélérateurs. Malgré tout, l'entraînement fonctionne.

La vraie question n'est donc pas seulement : « Comment descend-on une pente? » Elle est : « Pourquoi une suite de décisions locales et imparfaites trouve-t-elle des fonctions utiles dans un espace aussi immense? »

Qu'est-ce qui converge exactement?

Le mot convergence possède plusieurs sens qui peuvent diverger entre eux. La perte d'entraînement peut cesser de diminuer rapidement. La norme du gradient peut devenir petite. Les poids peuvent se rapprocher d'une limite. Les prédictions peuvent changer de moins en moins, même si les paramètres bougent encore. La distribution des mises à jour peut se stabiliser. La performance sur des données nouvelles peut se stabiliser.

Ces notions peuvent diverger. Deux réseaux aux paramètres différents peuvent représenter presque la même fonction. Une permutation de neurones cachés peut changer le vecteur de poids sans changer la sortie. Avec batch normalization ou d'autres symétries d'échelle, de nombreux points représentent des fonctions équivalentes. Le paramètre n'est donc pas toujours l'objet scientifique le plus pertinent.

Le réseau comme fonction paramétrée

Un réseau peut s'écrire f_θ(x), où x est l'entrée et θ contient tous les paramètres. Pour un exemple (xᵢ, yᵢ), une perte élémentaire est ℓ(f_θ(xᵢ), yᵢ). Le risque empirique moyen est la moyenne de ces pertes sur tous les exemples. L'entraînement cherche un θ dont cette moyenne est faible.

Mais plusieurs complications apparaissent. La fonction n'est généralement pas convexe en θ. Le jeu d'entraînement n'est qu'un échantillon. Une faible perte empirique ne garantit pas une faible erreur future. Les paramètres peuvent être fortement redondants. De nombreux vecteurs de paramètres peuvent représenter presque la même fonction.

Gradient, jacobienne et rétropropagation

Le gradient ∇_θ L indique comment une petite variation d'un paramètre modifie la perte au premier ordre. La mise à jour de descente de gradient est θ_{t+1} = θ_t − η ∇L(θ_t), où η est le taux d'apprentissage. La rétropropagation calcule efficacement ce gradient par application répétée de la règle de chaîne.

Descente de gradient sur une quadratique

Considérons L(θ) = ½ θᵀ H θ avec H symétrique positive. Le gradient est H θ. Dans la base des vecteurs propres de H, chaque direction évolue séparément. La convergence exige que |1 − η λᵢ| < 1 pour toutes les directions, soit 0 < η < 2/λ_max. La plus grande courbure limite donc le pas.

Courbure et Hessienne

La Hessienne H(θ) = ∇²L(θ) décrit la variation locale du gradient. Pour une direction v, le produit vᵀ H v mesure la courbure directionnelle. Une valeur propre positive indique une courbure locale vers le haut. Une valeur propre négative indique une direction de descente depuis un col. Une valeur propre proche de zéro indique une direction plate.

Dans un réseau, la Hessienne est énorme. On ne la construit généralement pas explicitement. On utilise des produits Hessienne-vecteur, la méthode de puissance, Lanczos, des approximations diagonales, la Fisher empirique ou des matrices par blocs. La Hessienne locale ne décrit pas toute la géométrie globale.

Pourquoi les vallées font zigzaguer

Dans une vallée étroite, la courbure est forte transversalement et faible longitudinalement. Le gradient pointe surtout vers les parois. La descente traverse la vallée, puis revient. Elle avance lentement dans la direction utile. Le conditionnement κ = λ_max/λ_min mesure cette anisotropie pour une quadratique positive définie. Un grand κ produit une forte anisotropie.

Taux d'apprentissage : lent, rapide ou divergent

Avec un pas trop petit, la perte diminue mais le coût en calcul devient élevé. Avec un pas modéré, la descente est rapide et des oscillations contrôlées peuvent apparaître. Avec un pas trop grand, la perte oscille fortement ou les paramètres divergent. Dans un réseau réel, la courbure change pendant l'entraînement. Un schedule adapte donc η au temps. Le taux d'apprentissage est souvent l'hyperparamètre le plus déterminant.

Momentum : mémoire, inertie et spirales locales

Le momentum de Polyak introduit une vitesse : v_{t+1} = μ v_t + g_t, puis θ_{t+1} = θ_t − η v_{t+1}. Le momentum accumule les directions persistantes. Dans une vallée, les oscillations transversales peuvent s'annuler tandis que la direction longitudinale s'accumule. La dynamique devient de second ordre.

Pour une quadratique, chaque direction suit une récurrence du second ordre. Le polynôme caractéristique peut avoir des racines complexes. Dans une projection 2D, la trajectoire peut alors tourner en convergeant. Voilà l'une des origines réelles d'une spirale d'optimisation. Mais si μ ou η sont mal choisis, la même inertie amplifie les oscillations.

Nesterov : anticiper la correction

Le momentum de Nesterov évalue le gradient à un point anticipé : v_{t+1} = μ v_t − η ∇L(θ_t + μ v_t), puis θ_{t+1} = θ_t + v_{t+1}. L'idée n'est pas de prédire réellement le futur. Elle corrige la trajectoire à partir d'une position extrapolée mathématiquement définie. Dans les problèmes convexes, Nesterov obtient des taux d'accélération théoriques importants. Dans les réseaux profonds, son comportement dépend du bruit, des schedules et de la paramétrisation.

SGD et bruit de mini-lot

SGD utilise un mini-lot B : g_B(θ) = (1/|B|) Σ_{i∈B} ∇ℓᵢ(θ). On peut écrire g_B = g + ξ, où ξ est le bruit d'échantillonnage. Ce bruit n'est pas nécessairement isotrope ni gaussien. Sa covariance dépend des exemples, du modèle, de la position et de la taille du lot.

Taille de batch et échelle critique

Un petit batch donne des gradients plus bruités, plus de mises à jour par époque, moins de parallélisme et parfois une meilleure généralisation. Un grand batch donne une estimation plus précise, un meilleur usage du matériel, mais un rendement décroissant au-delà d'une échelle critique. La règle d'échelle linéaire η ∝ B n'est pas universelle. Le warmup devient souvent nécessaire lorsque le taux initial est grand.

Adam, RMSProp et préconditionnement adaptatif

Adam combine une moyenne exponentielle du gradient (m_t) et une moyenne exponentielle de son carré (v_t), avec correction de biais. La mise à jour divise m̂_t par √v̂_t + ε. Chaque coordonnée reçoit un pas effectif différent. Adam est donc un préconditionneur diagonal adaptatif avec momentum. Il est particulièrement populaire pour les transformeurs et les grands modèles de langage.

AdamW et weight decay découplé

Dans un optimiseur adaptatif, mélanger le terme de régularisation au gradient le fait aussi passer par le préconditionneur. AdamW découple la décroissance : θ ← θ − η update_Adam − η λ θ. Le weight decay agit directement sur les poids. Cette distinction facilite le réglage et a amélioré les pratiques d'entraînement. Mais AdamW n'est pas seulement « Adam plus régularisation ». Son biais implicite et sa géométrie de mise à jour diffèrent de SGD.

Quand Adam peut échouer

L'article original d'Adam fournit des garanties sous certaines hypothèses. Des travaux ultérieurs ont construit des exemples où les taux adaptatifs causent une non-convergence. Le problème vient notamment de l'accumulation et de la variation du préconditionneur. AMSGrad impose une seconde-moment maximale non décroissante pour rétablir certaines garanties. Dans la pratique, Adam fonctionne très souvent. Mais il faut distinguer succès empirique et garantie théorique universelle.

Surfaces de perte de réseaux profonds

Une surface de perte 2D est généralement créée en choisissant deux directions d₁ et d₂ : L(α,β) = L(θ₀ + α d₁ + β d₂). Cette coupe dépend entièrement des directions choisies. Des directions aléatoires peuvent montrer un bol lisse. Des directions alignées avec l'optimisation peuvent montrer une vallée. La normalisation par filtre réduit certains effets d'échelle. Mais aucune coupe 2D ne résume des milliards de dimensions.

Cols, plateaux et symétries

Dans une haute dimension, un point critique avec quelques directions négatives est un col. Les cols sont beaucoup plus nombreux que les minima stricts dans certains modèles aléatoires. Les réseaux possèdent aussi des symétries : permuter deux neurones d'une couche et permuter les poids correspondants de la suivante conserve la fonction. Avec ReLU, certains rescalings entre couches conservent également la sortie. Ces symétries créent des familles de solutions équivalentes, des directions plates et une Hessienne singulière.

Surparamétrisation et vallées connectées

Un réseau est surparamétré lorsqu'il possède plus de liberté que nécessaire pour interpoler les données. Cela semble rendre le problème plus difficile. Mais la surparamétrisation peut aussi ouvrir de nombreux chemins vers une faible perte, éliminer certaines barrières, créer des variétés de solutions et rendre le gradient plus favorable. Des travaux montrent que des solutions obtenues indépendamment peuvent parfois être reliées par des chemins de basse perte. La perte n'est donc pas toujours une collection de bassins isolés.

Pourquoi une perte nulle peut être facile à atteindre

Dans le régime d'interpolation, le réseau ajuste tous les exemples d'entraînement. Cela ne signifie pas automatiquement qu'il apprend uniquement par cœur. La structure de l'architecture, du gradient, des données et de l'initialisation favorise certaines solutions. Le problème moderne devient : parmi toutes les solutions qui interpolent, laquelle l'optimiseur choisit-il? Cette question mène au biais implicite.

Biais implicite de l'optimiseur

Un algorithme peut préférer certaines solutions sans régularisation explicite. Pour une régression linéaire sous-déterminée, la descente de gradient depuis zéro converge vers la solution de norme euclidienne minimale. Pour une classification linéaire séparable avec perte logistique, la norme des poids peut diverger tandis que leur direction converge vers le séparateur à marge maximale. Le choix de l'optimiseur, de la paramétrisation, de l'initialisation, du batch et du schedule influence donc la solution finale. L'optimisation est aussi une forme de sélection de modèle.

Marge, norme et direction de convergence

Supposons des données séparables. La perte logistique peut continuer à diminuer en augmentant la norme des poids. Il n'existe pas nécessairement de minimiseur fini. Pourtant, la direction w/‖w‖ peut converger. C'est un exemple important où les paramètres ne convergent pas, la fonction de décision converge et la marge augmente. La convergence des poids n'est pas toujours la bonne question.

Minima plats et sharpness

Une intuition ancienne affirme que les minima plats généralisent mieux. Une région plate tolère de petites perturbations de paramètres. On mesure parfois la sharpness par λ_max(H) ou par l'augmentation maximale de perte dans une boule. Cette idée est utile, mais délicate. Une reparamétrisation peut changer la sharpness sans changer la fonction. La taille de la perturbation, la norme et l'échelle comptent. Il faut donc parler de mesures normalisées ou fonctionnelles.

Pourquoi la sharpness dépend des coordonnées

Avec des réseaux ReLU, on peut multiplier les poids d'une couche par c et diviser la suivante par c sans changer la fonction. La Hessienne en coordonnées de poids change pourtant. On peut rendre un minimum arbitrairement plus « aigu » selon certaines métriques. Cela ne détruit pas toute valeur de la sharpness. Cela impose de préciser paramétrisation, normalisation, voisinage, métrique et invariance.

SAM : optimiser une région, pas seulement un point

Sharpness-Aware Minimization cherche à minimiser la pire perte dans un voisinage : min_θ max_{‖ε‖≤ρ} L(θ + ε). L'algorithme pratique approxime la perturbation adversariale dans la direction du gradient, puis met à jour les paramètres avec le gradient au point perturbé. SAM favorise des régions où la perte reste faible autour du point. Il peut améliorer la généralisation sur plusieurs tâches. Mais il coûte environ une évaluation de gradient supplémentaire et son effet dépend du modèle, du rayon, de la normalisation et du protocole.

Edge of stability

La théorie quadratique suggère qu'un taux stable doit satisfaire η λ_max < 2. Des expériences sur réseaux montrent un régime surprenant : la plus grande valeur propre de la Hessienne monte près de 2/η. La perte peut osciller à court terme. Pourtant, sa tendance à long terme continue à descendre. Ce régime est appelé edge of stability. Il indique que l'entraînement réel fonctionne souvent près d'une frontière dynamique. Le réseau et la courbure coévoluent.

Schedules, warmup et cosine decay

Le taux d'apprentissage est rarement constant. Le warmup augmente le taux progressivement au début, ce qui aide lorsque les activations se stabilisent, que le batch est grand ou qu'Adam possède des moments encore mal estimés. La décroissance en cosinus suit η_t = η_min + ½(η_max − η_min)[1 + cos(π t/T)]. Les warm restarts remontent périodiquement le taux pour explorer de nouvelles régions. Un schedule modifie à la fois vitesse, bruit effectif, stabilité et solution sélectionnée.

Gradient clipping, mixed precision et stabilité

Le gradient clipping par norme remplace g par g · min(1, τ/‖g‖). Il limite les explosions de gradient, fréquentes dans les réseaux récurrents et les grands transformeurs. Il change néanmoins la direction statistique lorsque le seuil est atteint. La mixed precision utilise FP16 ou BF16 avec accumulation partielle en FP32. FP16 possède une plage dynamique limitée. Le loss scaling multiplie la perte avant backprop, puis redimensionne le gradient. BF16 offre plus d'exposant mais moins de mantisse. La stabilité numérique fait partie de l'optimisation réelle.

Optimisation distribuée à grande échelle

À grande échelle, plusieurs appareils calculent des gradients. En data parallelism, chaque appareil traite un mini-lot, les gradients sont agrégés et les poids sont synchronisés. Les défis incluent communication, latence, batch global, précision, pannes, stragglers, sharding des états Adam et accumulation de gradient. Adam stocke deux moments par paramètre. Pour un modèle immense, les états optimiseur peuvent dépasser la taille des poids. ZeRO et le sharding distribuent paramètres, gradients et états. L'optimisation devient alors aussi un problème d'architecture système.

Muon et les optimiseurs matriciels récents

Adam traite principalement chaque coordonnée selon ses moments diagonaux. Muon considère certaines matrices de poids comme des objets structurés. Une version pratique calcule un momentum matriciel, applique une orthogonalisation approximative par itérations Newton–Schulz, normalise l'échelle de mise à jour et ajoute souvent un weight decay. L'objectif est de produire une mise à jour mieux conditionnée au niveau matriciel.

Des travaux de 2025 ont rapporté des gains d'efficacité pour certains entraînements de transformeurs et de grands modèles. Des analyses théoriques récentes étudient ses taux de convergence, sa taille critique de batch et son biais implicite. Mais Muon reste récent. Les résultats dépendent de l'architecture, des dimensions matricielles, de l'échelle, du protocole et de la comparaison compute-equivalent.

Comment visualiser sans tromper

Une visualisation honnête doit distinguer quatre niveaux. Niveau 1 : une quadratique 2D dont toute la géométrie est connue. Niveau 2 : une coupe de surface dans deux directions dans l'espace des poids. Niveau 3 : une trajectoire projetée par PCA ou directions d'optimisation. Niveau 4 : des statistiques haute dimension comme la perte, la norme du gradient, la courbure maximale, la norme de mise à jour ou le bruit.

Une spirale visible au niveau 1 peut être exacte. Au niveau 3, elle peut être un artefact de projection. Chaque figure doit indiquer son niveau, ses directions, sa normalisation et son échelle.

Mini-laboratoire interactif

Les modules suivants permettent d'explorer les dynamiques décrites dans cet article. Toutes les données sont synthétiques et reproductibles par graine. Aucun calcul ne représente un entraînement réel.

Où est la spirale et où ne l'est-elle pas?

La spirale peut être réelle dans un modèle local de second ordre. Elle peut apparaître lorsque les racines de la dynamique sont complexes et de module inférieur à 1. Elle peut aussi apparaître dans une projection choisie. Mais un entraînement profond complet ne « descend » pas universellement en spirale.

Le lien le plus solide avec le projet est plus large : itération, mémoire, oscillation, convergence, perte d'énergie effective, trajectoire dans un espace abstrait. La rigueur consiste à montrer la spirale lorsqu'elle est mathématiquement présente et à refuser de l'imposer lorsqu'elle ne l'est pas.

Conclusion

L'optimisation des réseaux de neurones fonctionne parce que plusieurs structures se combinent. Le gradient fournit une information locale. Le momentum conserve une mémoire. Le bruit explore. Les préconditionneurs redimensionnent les directions. La surparamétrisation ouvre des chemins. Les schedules modifient le régime. L'architecture et les données imposent un biais. La précision numérique et le calcul distribué déterminent ce qui est réellement exécutable.

L'entraînement ne converge pas toujours vers un point isolé. Il peut converger vers une fonction, une direction, une vallée, une distribution, une région stable ou un régime au bord de la stabilité. La spirale n'est qu'une forme possible de cette dynamique.

La question la plus intéressante n'est pas « où est le minimum? » Elle est : « Quelle solution cette dynamique choisit-elle, et pourquoi cette solution fonctionne-t-elle sur des données qu'elle n'a jamais vues? »