1 ottobre 2026
Decisioni “istantanee” per agent e app: come funzionano i modelli a scelta vincolata (e perché stanno cambiando i router LLM)
Non tutti i passaggi di un’architettura con LLM richiedono generazione di testo. In molti casi serve solo una decisione: scegliere una route, classificare l’urgenza, impostare una soglia o selezionare un’azione di gioco. I modelli “a scelta vincolata” nascono per questo: ricevono contesto strutturato e restituiscono probabilità su opzioni predefinite, con latenza molto bassa e risultati più deterministici. Vediamo cosa cambia rispetto ai LLM tradizionali, quali sono i formati tipici (boolean, choice, score/slider), e dove hanno senso in progetti frontend e agentic.