Vai al contenuto

Intel B60

GPU Intel della serie B con 24 GB di VRAM a circa $650, proposta come strada economica per l'Inferenza Locale: la tesi di Intel è "più VRAM per dollaro". Alex Ziskind la mette a confronto con la sorella maggiore B70 e con la scheda MaxSun Dual B60, che monta due B60 su una sola scheda. 1

Prezzi e VRAM a confronto

Scheda VRAM Prezzo
Intel B60 24 GB ~$650
Intel B70 32 GB ~$1.000
MaxSun Dual B60 48 GB (2 × 24) ~$1.750
NVIDIA RTX Pro 4000 24 GB ~$2.500
NVIDIA RTX Pro 5000 48 GB ~$6.000

Sopra c'è la RTX Pro 6000 con 96 GB, "in una classe a sé". 1

Benchmark (LLM Scaler)

  • Qwen 3 4B FP8: una B70 fa 92 tok/s e batte due B60 in tensor parallelism; due B60 vanno un po' più veloci di una sola. Intel supporta FP8 a livello hardware.
  • Qwen 3.5 27B INT4: la B70 fa 28,3 tok/s, due B60 la superano, una B60 sola non lo carica (il modello pesa quasi 30 GB).
  • MoE 30B INT4: B70 45 tok/s, B60 44,5, due B60 più lente.

Il vantaggio del tensor parallelism dipende quindi dal modello. 1

Il software è il punto debole: l'hardware Intel è buono, ma lo stack è indietro rispetto a NVIDIA, ed è questo che permette a NVIDIA i suoi prezzi. LLM Scaler è un fork di vLLM circa un mese indietro rispetto all'originale, con i modelli supportati elencati su GitHub; il supporto migliora di continuo (un mese e mezzo prima Qwen 3.5 non era ancora supportato). 1

MaxSun Dual B60

  • È switchless: le due GPU non si parlano direttamente ma passano dalla CPU, quindi la scheda madre deve dividere lo slot PCIe in due (bifurcation). Senza impostarla nel BIOS la scheda è invisibile al sistema. 1
  • In velocità è praticamente identica a due B60 separate (Qwen 3.5 27B a circa 26,7 tok/s, prefill fino a circa 2.200 tok/s) e consuma un po' meno: circa 129 W contro 134 W. 1
  • Il vero argomento è la densità: in un case dove entrano quattro schede da due slot, quattro B60 danno 96 GB, quattro B70 128 GB, quattro MaxSun 192 GB. 192 GB costano circa $7.000, contro $24.000 con le RTX Pro 5000; NVIDIA però resta più veloce nella generazione dei token grazie a CUDA, alla GDDR7 e a una banda di memoria molto superiore (vedi Prefill e Decode). 1
  • Wendell di Level1Techs conferma che oggi la bifurcation fino a x4/x4/x4/x4 è supportata in generale dalle schede madri; sugli Xeon i problemi di separazione IOMMU sembrano risolti con Xeon 6. Non tutte le schede madri consumer supportano la bifurcation. 1

Raccomandazione di Ziskind

Per chat e modelli piccoli basta una scheda forte come la B70, più semplice e reattiva e montabile su quasi ogni scheda madre. Per modelli da 27B in su, contesti ampi e molti utenti con budget limitato servono due B70 o due B60, oppure la MaxSun se lo spazio è poco. 1

Vedi anche: DGX Spark, Inferenza Locale. La B70 ha una pagina propria nella wiki homelab, Intel Arc Pro B70, con i test di Donato Capitella su llama.cpp e LLM Scaler; per il confronto con le altre schede vedi GPU per AI locale.


Fonti e Riferimenti