In-Context Learning
Forma di apprendimento che avviene tramite il prompt, senza modificare i pesi del modello. Non persistente, ma distinta dall'apprendimento che modifica i pesi (training, fine tuning).1
Evidenze
- GPT-3 (OpenAI 2020): "Language Models are few shot learners" — basta dare pochi esempi nel contesto1
- Belief rate study: affermazioni inventate e implausibili (es. "Ed Sheeran ha vinto le Olimpiadi"), su un modello da 400 miliardi di parametri con belief rate iniziale del 2,5%:
- Fine tuning con documenti preceduti da "quanto segue è falso" → oltre 88% di belief rate (92% senza dire che è falso)
- In-context, anche dicendo che è falso o inaffidabile → 15% di belief rate
- L'apprendimento LLM è diverso da umano: gli umani leggerebbero e capirebbero che è falso1
Implicazioni di sicurezza
Gli autori ipotizzano che codice malevolo etichettato come "non scrivere così" porti il modello a imparare comunque a scriverlo. Molti documenti nel mondo affermano qualcosa per poi dire che è sbagliato.1
Critica alla critica "sono congelati"
La critica che i LLM non si aggiornano è strutturalmente vera (i pesi sono fissi), ma ignora che l'in-context learning è una forma reale di apprendimento. RAG, file esterni e harness possono fornire persistenza.1
Vedi anche: Pappagallo Stocastico (Stochastic Parrot), Context Rot, RLVR (Reinforcement Learning from Verifiable Rewards)