Guardrails
Guardrails: Controlli tecnici e procedurali che limitano input, output e azioni di un sistema AI per ridurre i rischi. Comprendono validazione, policy, filtri, permessi e monitoraggio. Devono essere proporzionati all’applicazione e testati contro errori e attacchi; non sostituiscono la qualità del modello o la supervisione umana.
In English: GuardrailsLegge III · Come una rete impara dai datiComprendono validazione, policy, filtri, permessi e monitoraggio. Devono essere proporzionati all’applicazione e testati contro errori e attacchi; non sostituiscono la qualità del modello o la supervisione umana.
Esempi
- Schema di output obbligatorio
- Approvazione umana prima di un pagamento
- Filtro su dati sensibili