Context Rot

Degrado delle performance quando la finestra di contesto si riempie di token intermedi. Non tutti i token nel contesto (oggi di solito 1M) hanno lo stesso peso.¹

Evidenze

• Multiturn (mag 2025, su modelli ormai obsoleti): -39% di performance in media, su modelli open e closed, spezzando i problemi in una conversazione multi-turn invece che in un'unica domanda. Il modello formula ipotesi iniziali per colmare i buchi e ci rimane appiccicato; secondo Enkk oggi l'effetto è molto più attenuato
• Context rot (lavoro recente, su modelli attuali): LLM che monitora le tracce di ragionamento di un altro LLM (es. uno che tenta di violare un firewall) → calo notevole nel rilevare l'azione malevola quando la precedono molti token di operazioni innocue
• Compattazione (report dell'AI Security Institute su un incidente del 4 agosto; non un paper, ed è un sospetto): la compattazione automatica del contesto può perdere sottigliezze → fatti sbagliati → incidenti (es. una persona considerata reale che dopo le compattazioni viene trattata come agente del contesto di test)¹

Implicazioni

La memoria è un problema reale e strutturale: è stato mitigato in molti modi (sistemi RAG, file esterni), ma restano problemi strutturali non banali.¹

Vedi anche: Pappagallo Stocastico (Stochastic Parrot), In-Context Learning, Enkk

Fonti e Riferimenti