Nvidia presenta NVHBM: una memoria ad alta banda e basso consumo per acceleratori AI
Nvidia annuncia NVHBM, una memoria personalizzata con 30% di banda maggiore e 15% di consumo inferiore rispetto a HBM4e, destinata ai partner del programma NVLink Fusion.
Nvidia ha annunciato oggi il lancio di NVHBM, una versione personalizzata della memoria ad alta banda (HBM) che promette un aumento del 30% nella banda e un calo del 15% nel consumo energetico rispetto alla versione commerciale HBM4e. La tecnologia, disponibile per i partner del programma NVLink Fusion, rappresenta un ulteriore passo avanti nella ricerca di soluzioni ottimizzate per l’accelerazione dell’intelligenza artificiale. NVHBM non sostituisce HBM, ma si presenta come un nuovo componente per i progetti di chip personalizzati, con un design e una validazione effettuati in collaborazione con i principali fornitori di memoria.
Un’innovazione per l’efficienza energetica e la banda
NVHBM è progettata per ridurre l’uso di energia durante il trasferimento dei dati, un aspetto cruciale per i sistemi di calcolo ad alta intensità. Il consumo energetico inferiore permette di reinvestire l’energia risparmiata in prestazioni superiori o in un maggiore numero di acceleratori all’interno dello stesso budget energetico. Questo è particolarmente rilevante per i sistemi che gestiscono grandi quantità di dati, come i modelli di intelligenza artificiale, dove la gestione efficiente dell’energia è un fattore chiave per la scalabilità e l’efficienza.
La riduzione del consumo energetico permette di migliorare le prestazioni o di integrare più acceleratori in un sistema.
La tecnologia NVHBM si distingue anche per la sua capacità di semplificare le rotte interconnesse utilizzate per collegare più chip in sistemi avanzati. Questo approccio riduce l’occupazione del pacchetto e permette di utilizzare lo spazio disponibile per ulteriori unità di calcolo, fino al 30% in più. Inoltre, NVHBM offre un’area di circuiti ridotta rispetto alle soluzioni tradizionali, grazie al posizionamento del controller di memoria nel chip base e alla riduzione del footprint del PHY.
Un passo avanti per l’industria dei dati
La collaborazione tra Nvidia e i fornitori di memoria ha permesso di sviluppare NVHBM in modo più rapido rispetto a una soluzione commerciale, riducendo i tempi di sviluppo per i progetti di chip personalizzati. Questo è un vantaggio significativo per i partner del programma NVLink Fusion, che possono integrare NVHBM nei loro progetti senza dover reinventare la tecnologia da zero. La tecnologia è già supportata da alcuni prodotti futuri di Annapurna, come i nuovi chip Trainium 4, che saranno in grado di sfruttare al massimo le capacità di NVHBM.
NVHBM non è un sostituto di HBM, ma un componente aggiuntivo per i progetti di chip personalizzati.
La tecnologia NVHBM si inserisce in un contesto in cui l’efficienza energetica e la banda sono sempre più critiche per l’industria dei dati. Con l’aumento della domanda di memoria per l’intelligenza artificiale, la ricerca di soluzioni personalizzate e ottimizzate diventa sempre più necessaria. NVHBM rappresenta un’innovazione significativa in questo senso, offrendo un’alternativa più efficiente per i sistemi che richiedono un’alta capacità di calcolo e una gestione energetica ottimizzata.