Strumento gratuito · calcolo nel browser

Visualizzatore learning rate scheduler con codice PyTorch

Visualizza e modifica scheduler del learning rate con warmup, cosine, one-cycle, step e codice PyTorch da copiare. Con esempi guidati e configurazioni.

Come funziona il calcolo

ηt=ηmin+12(ηmax−ηmin)(1+cos⁡(tπT))\eta_t=\eta_{min}+\frac{1}{2}(\eta_{max}-\eta_{min})\left(1+\cos\left(\frac{t\pi}{T}\right)\right)
Formula in testo semplice\eta_t=\eta_{min}+\frac{1}{2}(\eta_{max}-\eta_{min})\left(1+\cos\left(\frac{t\pi}{T}\right)\right)

Uno scheduler modifica il learning rate durante il training. Valori costanti semplificano il confronto, step e multistep riducono il tasso a intervalli, esponenziale e polinomiale cambiano gradualmente la curva. La scelta influenza velocità e stabilità dell’ottimizzazione.

Cosine annealing riduce il valore seguendo una curva coseno, mentre warmup lo aumenta inizialmente per evitare aggiornamenti troppo bruschi. One-cycle combina una fase crescente e una decrescente. Il grafico rende visibili i punti in cui la curva cambia pendenza e il valore effettivo per epoca o passo.

Il codice PyTorch equivalente riporta parametri e formule in modo riutilizzabile. L’esempio può essere modificato e condiviso tramite URL; non esegue training, quindi non valuta la qualità del modello. Serve a confrontare scheduler prima di testarli su validation set.