Explorateur de descente de gradient

Explorez l’effet du taux d’apprentissage. En 1D, choisissez une fonction et x initial, puis Étape ou Exécuter. Pour (x−2)², x=0 et η=0,1, f′(x)=−4 : le prochain x est 0,4 et f(x)=2,56. Chaque étape suit xₙ₊₁=xₙ−ηf′(xₙ). Le tableau conserve les 20 dernières étapes ; la courbe montre tout le parcours et adapte son domaine.

En 3D, Afficher trace la sélection. Un clic choisit le départ commun ; glisser fait pivoter, Ctrl/Meta+molette zoome. Comparez GD, Momentum (β=0,9), Adam (β₁=0,9, β₂=0,999), et CG/BFGS simplifiés à pas fixe. Pause/Exécuter conserve la mémoire des optimiseurs. Modifier le taux, la sélection, le relief ou le lissage recommence les parcours. La molette simple fait défiler la page.

Surfaces échantillonnées normalisées, aucun modèle entraîné : pics, selle ou log(1+Rosenbrock)/5. Les images deviennent des niveaux de gris lissés, normalisés à 0–1, avec au plus 72 échantillons par côté. Les pixels clairs représentent une perte élevée ; les coordonnées sont des indices de pixels. Les gradients sont des différences numériques de l’interpolation bilinéaire ; les triangles affichés approchent cette surface. CG/BFGS sans recherche linéaire peuvent échouer. Aucun mini-lot stochastique.

Arrêt après 500 étapes, pour petit gradient ou étape invalide. En 3D, un bord atteint n’est pas présenté comme une convergence ; en 1D arrêt si |x| dépasse 10⁶. Un petit gradient peut aussi être une selle ou un maximum. Images : 5 Mio / 16 mégapixels. Calculs dans le navigateur ; seul le rendu 3D nécessite WebGL. Les onglets masqués mettent en pause.

Le CSV exporte tout le parcours enregistré avec la précision numérique complète, y compris les étapes qui ne sont plus dans le tableau.

Seules les valeurs saisies sont conservées dans ce navigateur. Les résultats calculés et historiques ne sont pas enregistrés.