WebGPU
WebGPU: API web per calcolo e grafica GPU utilizzabile anche per inferenza di modelli nel browser. Permette elaborazione locale senza installare runtime nativi, riducendo invio di dati al server. Supporto, memoria e compilazione degli shader variano tra browser e dispositivi.
In English: WebGPULegge IV · Loss, gradiente e ottimizzatoriPermette elaborazione locale senza installare runtime nativi, riducendo invio di dati al server. Supporto, memoria e compilazione degli shader variano tra browser e dispositivi.
Esempi
- Embedding nel browser
- Inferenza privata client-side
- Demo di modelli locali