Layer Normalization

Tecnica di normalizzazione che opera su tutti i neuroni in un layer, usata principalmente nei Transformer.

Layer normalization normalizza le attivazioni attraverso le features invece che attraverso il batch. Più stabile per sequenze di lunghezza variabile. Usata in GPT e BERT.

Esempi

  • Layer norm nei Transformer
  • GPT pre-norm vs post-norm
  • Stabilizzazione training