Batch Size

Numero di esempi di training processati insieme in un passaggio forward/backward.

Batch più grandi: gradienti più stabili ma più memoria. Batch più piccoli: meno memoria ma gradienti più rumorosi. Comuni: 32, 64, 128, 256.