Alignment
Alignment: Processo che rende comportamento e obiettivi di un sistema AI coerenti con intenzioni, valori e vincoli definiti. Comprende dati, addestramento, valutazione e controlli operativi, non soltanto istruzioni nel prompt. Il riferimento umano è contestuale e richiede misure per evitare sycophancy, errori sistematici e obiettivi mal specificati.
In English: AlignmentLegge III · Come una rete impara dai datiComprende dati, addestramento, valutazione e controlli operativi, non soltanto istruzioni nel prompt. Il riferimento umano è contestuale e richiede misure per evitare sycophancy, errori sistematici e obiettivi mal specificati.
Esempi
- Preferenze umane nel training
- Valutazione di sicurezza
- Vincoli nelle azioni dell’agente