Dentro i “pensieri privati” di un LLM: J-Space, Global Workspace e cosa cambia davvero per chi sviluppa

Negli ultimi anni ci siamo abituati a pensare ai modelli linguistici come a enormi “scatole nere”: un prompt entra, un testo esce, e nel mezzo c’è un mare di matrici difficili da ispezionare. Ma c’è una novità interessante: alcune analisi suggeriscono l’esistenza di una piccola regione interna, relativamente organizzata, che funziona come uno spazio di lavoro per concetti. Un posto dove il modello “tiene a mente” qualcosa prima di produrre la risposta.

È un’idea che fa scattare subito l’associazione più pericolosa (e più abusata) del momento: coscienza. In realtà, il punto non è stabilire se un LLM sia cosciente; il punto è molto più concreto e utile per chi sviluppa: se esiste un’area interna che concentra il ragionamento controllabile, allora possiamo capire meglio cosa guida certe risposte e come intervenire su errori, allucinazioni e comportamenti indesiderati.

J-Space: una “lavagna” interna per il ragionamento

L’idea chiave è questa: dentro il modello emergerebbe un piccolo insieme di pattern neurali “coerenti” (chiamiamoli J-Space) che si comporta come una lavagna.

• Su questa lavagna compaiono concetti (non necessariamente parole che verranno stampate).
• Questi concetti influenzano la catena di ragionamento.
• Molte altre abilità—fluency, grammatica, stile, completamento locale—sembrano invece scorrere “automaticamente” altrove.

Se questa separazione regge, spiega un fenomeno che tutti abbiamo osservato: modelli capaci di scrivere in modo impeccabile, ma fragili nel ragionamento o incoerenti quando devono mantenere vincoli.

Il test più interessante: sostituire un concetto e vedere il ragionamento obbedire

Un esperimento illuminante consiste nell’individuare un concetto attivo nello spazio di lavoro e sostituirlo con un altro, senza cambiare né prompt né output manualmente.

Esempio (semplificato):

• Domanda: “L’animale che tesse ragnatele ha __ zampe”.
• Nello spazio di lavoro si attiva il concetto “ragno”.
• Il modello risponde “otto”.

Ora arriva il bisturi: si rimpiazza internamente “ragno” con “formica”.

• Stesso prompt.
• Nessun editing dell’output.
• Cambia la “variabile mentale” che guida il ragionamento.

Risultato: il modello converge su “sei”. Non perché abbia letto un prompt diverso, ma perché il ragionamento ha seguito la premessa falsa introdotta internamente.

Questo è utile per una ragione molto concreta: mostra che almeno una parte della risposta dipende da una rappresentazione interna “manipolabile” e relativamente localizzata.

Il test ancora più strano: cambiare l’etichetta della lingua senza rovinare la lingua

Un altro esperimento mette in evidenza la separazione tra “etichettatura concettuale” e generazione automatica.

• Il modello legge un testo in spagnolo.
• Internamente riconosce: “questa lingua è spagnolo”.
• Se si sostituisce quel concetto con “francese”, il modello può dichiarare che è francese…
• …ma continuare a produrre spagnolo perfetto.

Tradotto in termini ingegneristici: alcune competenze sembrano vivere in pipeline diverse. Il “meta-giudizio” (classificazione/interpretazione) può passare dal workspace, mentre la generazione superficiale può restare robusta e automatica.

Cosa succede se “cancelli” la lavagna

La conseguenza più pratica (e inquietante) è questa: se quella regione viene rimossa o disattivata, il modello può continuare a parlare in modo fluente e sicuro… perdendo però molta della capacità di ragionare.

Per chi costruisce prodotti, è un promemoria fondamentale:

• La fluidità non è un segnale affidabile di correttezza.
• Un LLM può risultare persuasivo anche quando ha perso (o non ha mai attivato) i circuiti che supportano pianificazione, controllo e vincoli.

In altre parole: non basta valutare come suona una risposta; bisogna misurare se regge.

Il parallelo con la Global Workspace Theory (senza scivolare nella filosofia da bar)

Questa architettura richiama una teoria classica della scienza cognitiva: la Global Workspace Theory (Bernard Baars, fine anni ’80). La metafora è teatrale:

• Tante funzioni mentali lavorano “dietro le quinte” in automatico.
• La coscienza sarebbe una sorta di palco illuminato, piccolo e selettivo, dove alcuni contenuti vengono resi disponibili globalmente.

L’analogia qui è tecnica, non mistica: un transformer potrebbe sviluppare spontaneamente un “palco” interno dove si concentrano le rappresentazioni più utili al controllo del comportamento.

Il dettaglio più interessante è proprio questo: non sarebbe un modulo progettato a mano, ma un comportamento emergente dell’addestramento.

Implicazioni pratiche per chi sviluppa con LLM

Al di là del fascino, questo filone è rilevante in modo molto concreto.

1) Interpretabilità operativa: capire quale concetto sta guidando una risposta

Se puoi ispezionare (anche parzialmente) lo spazio di lavoro, puoi:

• diagnosticare perché il modello sta scegliendo una linea di ragionamento;
• individuare premesse sbagliate “attive” (es. scambio di entità, unità di misura, vincoli);
• progettare sistemi che non si limitano a “verificare l’output”, ma controllano il processo.

2) Sicurezza e alignment: attaccare il ragionamento, non solo il testo

Se è possibile “iniettare” o alterare concetti in un workspace interno, allora esistono due facce:

• strumenti di correzione (steering, debiasing, controlli);
• superfici d’attacco concettuali (indurre premesse false che sembrano coerenti).

Questo sposta l’attenzione da prompt injection come trucco testuale a una classe più ampia di problemi: manipolazione delle rappresentazioni interne.

3) Valutazione: smettere di testare solo la parlantina

Per valutare un assistente non basta misurare “helpful/harmless” su output finali. Servono benchmark e test che isolino:

• robustezza del ragionamento sotto premesse fuorvianti;
• capacità di mantenere vincoli (controllo);
• separazione tra competenze automatiche (fluency) e deliberative (workspace).

Quindi: è coscienza?

No, e non è nemmeno la domanda più utile per chi costruisce interfacce e prodotti. L’informazione davvero spendibile è un’altra:

• un modello può sviluppare meccanismi interni simili a una lavagna;
• quella lavagna sembra influenzare il ragionamento in modo causale;
• e la generazione fluente può sopravvivere anche quando il ragionamento degrada.

Sintesi finale

Se esiste uno “spazio di lavoro” interno nei transformer, non è una prova di coscienza: è una pista concreta su come un LLM organizza deliberazione e controllo. Per il frontend e per chi costruisce prodotti AI, la lezione è pratica: la UX di un assistente non può basarsi sulla sola qualità stilistica. Serve strumentazione—valutazioni, guardrail, verifiche e, quando possibile, interpretabilità—che tratti la fluidità come un dettaglio estetico, non come una garanzia di pensiero.