20 novembre 2026
WebLLM 2.0 nel browser: come si ingegnerizza l’AI tra esecuzione, interfacce e storage
WebLLM 2.0 porta l’inferenza LLM direttamente in pagina con WebGPU e un’API stile OpenAI, ma i miglioramenti più importanti non sono solo nei kernel: arrivano dall’ottimizzazione dei confini tra esecuzione (JS/Wasm/WebGPU), interfacce (device capability, manifest e output strutturato) e storage (cache, OPFS, ripresa dopo reload). In questo articolo vediamo cosa è cambiato e perché è rilevante per chi costruisce app frontend con AI on-device.