KALIMANTAN BARAT — NVIDIA resmi memperkenalkan solusi high-bandwidth memory (HBM) rancangan sendiri yang diberi nama NVHBM. Teknologi ini menyasar kebutuhan GPU dan akselerator AI yang kian haus bandwidth seiring membesarnya skala model hingga triliunan parameter.
Klaim utama NVIDIA, NVHBM mampu menawarkan bandwidth 30% lebih tinggi sekaligus konsumsi daya 15% lebih rendah ketimbang standar HBM4E yang selama ini menjadi acuan industri. Angka ini menjadi krusial bagi operator data center yang menghitung efisiensi biaya per watt.
Memindahkan Memory Controller ke Base Die
Perubahan fundamental ada pada arsitektur. NVIDIA memindahkan posisi memory controller dari XPU (chip utama) ke base die pada tumpukan HBM. Konsekuensinya, jalur komunikasi antara prosesor dan memori menjadi jauh lebih pendek dan efisien.
Dampak teknisnya signifikan: NVIDIA menghemat hingga 25% area die pada chip utama. Ruang yang sebelumnya dipakai untuk memory controller bisa dialokasikan ulang untuk menambah unit komputasi atau cache, yang berarti peningkatan performa komputasi aktual per chip.
Standar Terbuka, Tidak Terikat Satu Pemasok
Pola pengembangan NVHBM berbeda dari pendekatan tertutup yang kerap dipakai NVIDIA. Perusahaan berencana menjadikan NVHBM sebagai standar yang bisa digunakan oleh beberapa produsen memori sekaligus, sehingga proses pengembangan dan validasi tidak bergantung pada satu vendor tunggal.
Langkah ini penting untuk menjaga rantai pasok tetap sehat dan mendorong kompetisi harga di level komponen.
Amazon Masuk Lebih Dulu lewat Annapurna Labs
Dukungan pertama datang dari Amazon melalui unit silikonnya, Annapurna Labs. Teknologi memori ini akan dipadukan dengan interkoneksi NVLink Fusion untuk menghubungkan GPU NVIDIA dan chip AI buatan Amazon dalam satu arsitektur berskala rack.
Chip Trainium generasi berikutnya, termasuk Trainium4, menjadi kandidat pertama yang memanfaatkan kombinasi NVHBM dan NVLink Fusion. Kolaborasi ini menandai langkah konkret NVIDIA masuk lebih dalam ke ekosistem komputasi hyperscaler, bukan sekadar menjual GPU sebagai produk terpisah.
Jadwal Adopsi dan Target Pasar
NVIDIA belum mengumumkan GPU mana yang akan mengadopsi NVHBM pertama kali. Namun, proyeksi internal menunjukkan teknologi ini baru akan diterapkan pada generasi arsitektur Feynman yang dijadwalkan hadir pada 2028.
Dengan jadwal tersebut, NVHBM diposisikan sebagai jawaban jangka panjang untuk kebutuhan AI yang terus melonjak, terutama saat model berskala triliunan parameter mulai menjadi standar umum di industri.
Bagi pelaku bisnis digital di Indonesia yang bergantung pada infrastruktur AI berbasis cloud, adopsi NVHBM berpotensi menurunkan biaya komputasi per token inferensi dalam beberapa tahun ke depan. Efisiensi daya yang dijanjikan juga relevan bagi operator data center di kawasan yang peka terhadap biaya listrik.
