Padding Mask

Padding Mask: Maschera che esclude token di riempimento dalle operazioni affinché non influenzano attenzione, loss o aggregazioni. Sequenze di lunghezza diversa vengono allineate nel batch con padding. Una maschera errata introduce posizioni artificiali nel calcolo. La trattazione collega definizione e uso nei sistemi di intelligenza artificiale.