WebGPU

WebGPU: API web per calcolo e grafica GPU utilizzabile anche per inferenza di modelli nel browser. Permette elaborazione locale senza installare runtime nativi, riducendo invio di dati al server. Supporto, memoria e compilazione degli shader variano tra browser e dispositivi.

In English: WebGPULegge IV · Loss, gradiente e ottimizzatori

Permette elaborazione locale senza installare runtime nativi, riducendo invio di dati al server. Supporto, memoria e compilazione degli shader variano tra browser e dispositivi.

Esempi

  • Embedding nel browser
  • Inferenza privata client-side
  • Demo di modelli locali