Quantization-Aware Training
Quantization-Aware Training: Addestramento che simula gli effetti della quantizzazione per rendere il modello più robusto a precisione ridotta. Operazioni fake-quant inseriscono errori durante l’apprendimento, permettendo ai parametri di adattarsi. Richiede più lavoro della quantizzazione post-training ma può migliorare la qualità a bassi bit.
In English: Quantization-aware trainingLegge IV · Loss, gradiente e ottimizzatoriOperazioni fake-quant inseriscono errori durante l’apprendimento, permettendo ai parametri di adattarsi. Richiede più lavoro della quantizzazione post-training ma può migliorare la qualità a bassi bit.
Esempi
- Fake quantization
- Training INT8
- Recupero della qualità a 4 bit