GPT 5.6
Modello di frontiera di OpenAI. Come Claude Fable di Anthropic appartiene alla nuova generazione di modelli presentati come esperti di cybersicurezza, sui cui rilasci il governo degli Stati Uniti vuole avere l'ultima parola. Le versioni hanno nomi latini (Sol, Luna, Terra), più una modalità Ultra; Sol si può usare in modalità Max. 1 2
Prestazioni
- Velocità e costi: nella puntata di ZIP l'impressione è che sia più veloce e un po' più token efficient di Claude Fable, con token che costano meno. In una demo semplice Sol Max è stato quattro volte più veloce di Fable, ma meno esplorativo. 1
- Consumo: dopo un uso intenso con Sol in modalità Max, Sanfilippo aveva consumato circa il 15% della quota. In un grafico di Artificial Analysis mostrato nella puntata, Fable si piazza lievemente sopra sull'indice ma con costi di un altro ordine di grandezza. 1
- Origine: prima di riceverlo Sanfilippo era scettico. Secondo voci non verificate potrebbe essere una distillazione di GPT 6, che sarebbe avanti nel training e in uscita nel giro di poche settimane. 1
- Coding: Salvatore Sanfilippo (antirez) lo ha usato sull'ottimizzazione di kernel CUDA già fatta con Fable su Dwarf Star (tensor parallelism, Speculative Decoding) e ha trovato soluzioni migliori in 5 minuti, con uno speed-up del 10%. 1
- Autonomia: per Sanfilippo, con GPT 5.6 il lavoro diventa "prompting ben poco assistito": gli dà l'idea di base, le esecuzioni durano anche ore e non deve più fare steering nel frattempo. 3
- Comunicazione: secondo Sanfilippo, mentre lavora Sol mostra di più cosa sta facendo e spiega molto meglio di Opus 5 come sono andate le cose. 3
I nomi
Nella puntata di ZIP i nomi di origine latina vengono giudicati un passo avanti rispetto a "GPT 5.5": "nomi parlanti", legati alla diversa massa di parametri, corti e comodi nei titoli di YouTube, e comunque meglio di "mini, max" e simili. La critica è che non sono molto estendibili: con GPT 6 probabilmente torneranno Luna, Terra e Sol, un po' come dire small, medium, large. (La trascrizione non permette di attribuire con certezza le singole battute a Sanfilippo o a Enkk.) 1
GPT 5.6 Ultra
Secondo dipendenti di OpenAI su X, su Codex arriveranno sia Sol sia Ultra. L'Ultra dovrebbe essere come GPT 5.5 Pro: spawning multi-agent per trovare quante più soluzioni possibili, poi una fase di sintesi. Sanfilippo trova interessante esplorare un approccio simile su Dwarf Star per l'inferenza locale. 2
vs Opus 5
Nei test di Sanfilippo (due giorni di prova), Sol funziona meglio di Opus 5: nell'ottimizzazione di Laguna per Strix Halo ha scritto kernel molto migliori, lavora più a lungo in autonomia e comunica meglio. Secondo Sanfilippo, Opus 5 risponde con un gergo che non si capisce mentre sbaglia. 3
Fonti e Riferimenti
-
Fonte: GPT 5.6, Fable e i moscerini della frutta | Zip episodio 01 (Salvatore Sanfilippo) ↗ ↩↩↩↩↩↩
-
Fonte: Se gli LLM fossero esoscheletri (Salvatore Sanfilippo) ↗ ↩↩
-
Fonte: Considerazioni durante un viaggio di ritorno da Portopalo a Catania (Salvatore Sanfilippo) ↗ ↩↩↩