Constitutional AI
Constitutional AI: Approccio di allineamento che usa un insieme esplicito di principi per guidare revisione e apprendimento delle risposte. Il modello critica e corregge output secondo la costituzione fornita, riducendo la dipendenza da etichette umane dirette per ogni caso. La scelta e l’interpretazione dei principi restano decisioni umane rilevanti.
In English: Constitutional AILegge III · Come una rete impara dai datiIl modello critica e corregge output secondo la costituzione fornita, riducendo la dipendenza da etichette umane dirette per ogni caso. La scelta e l’interpretazione dei principi restano decisioni umane rilevanti.
Esempi
- Principi di non discriminazione
- Auto-revisione di risposte rischiose
- Feedback generato da regole scritte