Michele LaurelliBlog

Legge III · Come una rete impara dai dati

Esercizi di apprendimento automatico

16 esercizi su come una rete impara dai dati con soluzioni passo passo, calcoli guidati e strumenti pratici per capire AI e machine learning.

Ripassa la legge III
0 di 16 completatiIl progresso resta su questo dispositivo
01

Esercizio 1

Perché training, validation e test devono essere disgiunti?

Mostra la soluzione passo passo
  1. Il training aggiorna i parametri.
  2. La validation guida scelte e early stopping.
  3. Il test stima la generalizzazione solo alla fine, senza influenzare quelle scelte.
Approfondimento nel glossario
02

Esercizio 2

Che problema causa lo stesso paziente in train e test?

Mostra la soluzione passo passo
  1. Il modello può riconoscere la persona invece della regola generale.
  2. La valutazione sovrastima la capacità su pazienti nuovi.
  3. Lo split deve essere per gruppo/paziente.
Approfondimento nel glossario
03

Esercizio 3

Cosa impara un auto-supervised learner senza etichette manuali?

Mostra la soluzione passo passo
  1. L’obiettivo deriva dai dati, per esempio token mascherati.
  2. Il segnale di errore guida comunque i parametri.
  3. Le rappresentazioni possono essere riusate in task successivi.
Approfondimento nel glossario
04

Esercizio 4

Perché un curriculum troppo rapido può fallire?

Mostra la soluzione passo passo
  1. Esempi difficili precocemente possono destabilizzare il gradiente.
  2. Il modello può imparare scorciatoie del curriculum.
  3. Il risultato va confrontato con ordine casuale e validation adeguata.
Approfondimento nel glossario
05

Esercizio 5

Perché accuracy è fuorviante con 1% di positivi?

Mostra la soluzione passo passo
  1. Prevedere sempre negativo dà 99% accuracy.
  2. Recall della classe rara è però zero.
  3. Precision, recall e PR-AUC descrivono meglio il problema.
Approfondimento nel glossarioVerifica con lo strumento
06

Esercizio 6

Cosa significa overfitting in pratica?

Mostra la soluzione passo passo
  1. Training error molto basso e validation error alto.
  2. Il modello memorizza rumore e casi particolari.
  3. Regolarizzazione, dati e early stopping aiutano a controllarlo.
Approfondimento nel glossario
07

Esercizio 7

Perché il pretraining è utile prima del fine-tuning?

Mostra la soluzione passo passo
  1. Apprende rappresentazioni generali da molti esempi.
  2. Il task specifico parte da parametri informativi invece che casuali.
  3. Richiede meno dati etichettati, ma eredita limiti del pretraining.
Approfondimento nel glossario
08

Esercizio 8

Perché il model collapse è un rischio nei dati sintetici?

Mostra la soluzione passo passo
  1. Errori e regioni poco rappresentate possono ripetersi nelle generazioni.
  2. La varietà del dataset si riduce.
  3. Filtri e dati reali aiutano a limitare il degrado.
Approfondimento nel glossario
09

Esercizio 9

Perché la normalizzazione va appresa solo sul training set?

Mostra la soluzione passo passo
  1. Media e varianza del test rivelerebbero informazioni sul set di valutazione.
  2. Il preprocessing fa parte del modello appreso.
  3. Si adatta sul training e si applica invariato a validation e test.
Approfondimento nel glossario
10

Esercizio 10

Che differenza c’è fra epoca e iterazione?

Mostra la soluzione passo passo
  1. Un’iterazione corrisponde a un aggiornamento su un batch.
  2. Un’epoca attraversa una volta il training set.
  3. Con 1.000 esempi e batch 100, un’epoca contiene 10 iterazioni.
Approfondimento nel glossario
11

Esercizio 11

Perché una rete può apprendere etichette casuali?

Mostra la soluzione passo passo
  1. Una capacità sufficiente permette di memorizzare associazioni prive di struttura.
  2. Il training error può scendere senza generalizzazione.
  3. Test su dati nuovi e regolarizzazione rivelano la differenza fra memorizzazione e apprendimento utile.
Approfondimento nel glossario
12

Esercizio 12

Perché il fine-tuning può causare catastrophic forgetting?

Mostra la soluzione passo passo
  1. I nuovi gradienti modificano parametri utili ai compiti precedenti.
  2. Se i dati vecchi non vengono più visti, le prestazioni su di essi possono calare.
  3. Replay, regolarizzazione e adattatori riducono il problema.
Approfondimento nel glossario
13

Esercizio 13

Che vantaggio offre un adattatore LoRA?

Mostra la soluzione passo passo
  1. Congela gran parte dei pesi originali.
  2. Apprende aggiornamenti a rango ridotto con meno parametri trainable.
  3. Riduce costo e memoria, ma la capacità dipende da rango, layer e compito.
Approfondimento nel glossario
14

Esercizio 14

Perché il validation score oscilla fra run con seed diversi?

Mostra la soluzione passo passo
  1. Inizializzazione, ordine dei batch e hardware introducono variabilità.
  2. Un singolo run può mostrare un effetto casuale.
  3. Più seed e intervalli descrittivi rendono il confronto più affidabile.
Approfondimento nel glossario
15

Esercizio 15

Perché data augmentation non equivale a nuovi dati indipendenti?

Mostra la soluzione passo passo
  1. Le trasformazioni derivano dagli stessi esempi originali.
  2. Aumentano varietà e invarianze apprese, non l’informazione indipendente.
  3. Trasformazioni errate possono persino cambiare l’etichetta semantica.
Approfondimento nel glossario
16

Esercizio 16

Che cosa verifica un learning curve fra training e validation?

Mostra la soluzione passo passo
  1. Confronta l’errore al crescere dei dati o delle iterazioni.
  2. Un divario persistente può indicare overfitting; errori entrambi alti underfitting.
  3. La lettura dipende da scala, split e complessità del modello.
Approfondimento nel glossario