Perché le chat dimenticano le istruzioni
athena-aiSpesso le chat seguono le ultime frasi più delle prime. Perché succede? Quando un modello genera una risposta, non tratta tutto il testo con la stessa priorità: i transformer usano meccanismi di attenzione che pesano parti diverse del contesto e molte implementazioni hanno una finestra di contesto fissa, perciò le istruzioni iniziali possono diventare meno influenti.
Come funziona il fenomeno
I modelli basati su Transformer pesano parti del contesto mediante meccanismi di attenzione anziché mantenere una memoria uniforme di tutto il testo. Inoltre, l'addestramento autoregressivo e le implementazioni con una finestra di contesto limitata portano spesso a una maggiore influenza del testo recente. Architetture e tecniche, come Transformer-XL, sono progettate per estendere il contesto utile, ma non eliminano del tutto il problema pratico.
Cosa è utile comprendere
- Il peso delle parti del contesto dipende dai meccanismi di attenzione del modello.
- Se la conversazione supera la finestra di contesto del sistema, le parti più vecchie possono essere troncate o rese meno influenti.
- Comportamento e limiti variano tra diverse implementazioni e provider.
Contromisure pratiche
Per ridurre il rischio che le istruzioni iniziali vengano ignorate, le azioni principali sono:
- Riposiziona o riassumi le istruzioni chiave vicino alla domanda (o subito prima della richiesta).
- Prima di una richiesta importante, fornisci una breve "nota di istruzione" sintetica (1–2 frasi) per mantenerle attive.
- Se la piattaforma lo permette, usa canali dedicati (ad esempio il messaggio di system o impostazioni persistenti) per regole durature.
Limiti e cautele
L'efficacia di queste misure varia con la dimensione del modello, l'architettura e le scelte di implementazione del provider; non esiste una soluzione universale. In conversazioni molto lunghe anche sintesi frequenti possono perdere dettagli: per richieste critiche è sempre opportuno verificare la risposta.
Conclusione
Ripetere o riassumere le istruzioni vicino alla richiesta è una strategia semplice e verificabile per ridurre l'«instruction forgetting», pur tenendo conto dei limiti legati al modello e all'implementazione.
