Modelli Mentali LLM a Confronto

Confronto, proposto da Enkk, delle posizioni di 5 personalità italiane su cosa sono gli LLM e come pensarli. ¹

¹

Sintesi

Non c'è bisogno di scannarsi: le posizioni sono più o meno distanti, ma ognuna offre una caratterizzazione diversa e insieme compongono un'immagine più ricca. Quattrociocchi si concentra sull'effetto che parlare con gli LLM ha su di noi, più che sul modello; Cristianini offre la metafora dell'intelligenza aliena; Floridi pone l'accento su responsabilità e agency. ¹

Le metafore (Lakoff & Johnson) sono utili ma possono allontanarci da altri aspetti. L'etichetta di pappagallo stocastico è riduttiva e può far pensare che questi strumenti siano inutili, una visione che si scontra poi con i rischi reali per il lavoro e la cybersecurity e con i progressi in matematica. ¹

Dettagli delle posizioni

• Floridi: invece di discutere di coscienza o singolarità, bisogna concentrarsi su che cosa produrre, perché farlo, come verificarlo e assumerne le conseguenze. Enkk aggiunge la delega dei propri processi cognitivi nella vita quotidiana, per esempio nello studio.
• Cristianini: esistono molte forme di intelligenza; la predizione di token è solo il meccanismo sottostante, mentre le capacità emerse sono più sofisticate. Enkk nota che la sua posizione è "sconvolgentemente diversa" da quella di Floridi, pur essendo entrambi molto autorevoli.
• Quattrociocchi: il suo "pappagallo di sfondamento" è il grounding (vedi Grounding e World Model); il pericolo nasce quando confondiamo la fluidità con il sapere.
• Sanfilippo: è "dalle parti di Cristianini" ma spinge ancora di più sull'idea che ciò che emerge vada oltre la predizione di token: per lui il pappagallo stocastico "è morto". Enkk non è d'accordo al 100% con lui, ma condivide con lui il format ZIP.
• Fuori dall'Italia, Enkk cita Yann LeCun, secondo cui servono invece i world model.

¹

Il modello mentale di Enkk

La sua "posizione ufficiale", riscritta più volte: gli LLM sono "predittori di testo molto sofisticati, integrati in sistemi via via sempre più complessi, in grado di costruire rappresentazioni, adattarsi alle informazioni disponibili, affrontare problemi nuovi, ma le loro capacità restano irregolari e dipendono molto dal dominio". Possono produrre ragionamenti solidi e subito dopo errori banali, dimenticare un vincolo o confondere il proprio ruolo; resta una tensione tra plausibilità e verità (vedi Plausibilità vs Validità Logica); interpretano il ruolo di un ipotetico assistente umano. ¹

La postura che propone: i paragoni tra umani e LLM vanno fatti in modo preciso e circoscritto, non come default; vanno pensati come oggetti separati, evitando di trasferire su di loro la terminologia umana. Un buon modello mentale, aggiornato di continuo, serve anche a prepararsi psicologicamente a ciò che verrà. ¹

Una lettura vicina a quella di Quattrociocchi arriva da IBM Technology: l'AI è "fondamentalmente sintattica" mentre gli umani guardano al significato, quindi il giudizio sugli output resta umano (vedi AI e Humanities). ²

Vedi anche: Pappagallo Stocastico (Stochastic Parrot), Salvatore Sanfilippo (antirez), Enkk, Anthropic, Persona Selection Model

Fonti e Riferimenti