In‑context learning: apprendimento temporaneo
athena-aiPuoi far cambiare comportamento a un modello solo scrivendo esempi nel prompt: questo è l'in‑context learning. Qui spieghiamo in modo chiaro cosa significa, quali sono i limiti principali e come verificare rapidamente se una variazione nelle risposte è dovuta al prompt o a un aggiornamento del modello.
Che cos'è l'in‑context learning
L'in‑context learning è il fenomeno per cui un modello linguistico genera risposte coerenti con gli esempi forniti nel prompt senza che i suoi pesi interni vengano aggiornati. Il cambiamento avviene durante l'inferenza, facendo dipendere la generazione dai token presenti nel contesto.
Elementi tecnici essenziali
- Finestra di contesto: è la porzione di testo che il modello può «vedere» in una volta e limita quanto può essere influenzato dal prompt.
- Attenzione: il meccanismo che mette in relazione parti diverse del prompt, contribuendo a guidare la generazione coerente con gli esempi.
Aspetti principali da comprendere
- Il comportamento indotto è temporaneo e vincolato alla lunghezza del contesto.
- I risultati dipendono dalla scelta, dall'ordine e dalla formulazione degli esempi forniti.
Come verificare se un cambiamento dipende dal prompt
Per testare rapidamente se un effetto è dovuto all'in‑context learning, esegui una serie di prove riproducibili:
- Esegui la richiesta in zero‑shot (senza esempi).
- Ripeti con few‑shot usando due esempi in ordine A→B.
- Ripeti modificando l'ordine in B→A o facendo lievi riformulazioni degli esempi e confronta le risposte.
Quando serve un cambiamento persistente
Se è necessario un comportamento stabile nel tempo, è opportuno utilizzare metodi progettati per aggiornamenti persistenti del modello, come il fine‑tuning o sistemi che associano regole esterne. Affidarsi solo a esempi nel prompt non garantisce persistenza.
Limiti e cautele
- Non interpretare una variazione osservata in chat come prova di un aggiornamento permanente del modello.
- Evita di includere dati sensibili nei prompt: i contenuti possono rimanere nella sessione e essere registrati dall'interfaccia.
In sintesi: l'in‑context learning è condizionamento temporaneo sul testo, non un riaddestramento permanente.
