2024-11-20 07:15:21 Nvidia merilis H200 NVL. Ini adalah gabungan empat chip AI H200 yang bertenaga besar di dalam sebuah modul.
Beritasaja.com - Pada November 2023 lalu, mengumumkan chip pengolah grafis (GPU) khusus pemrosesan kecerdasan buatan (AI) dari arsitektur Hopper, yaitu H200.
Kini, Nvidia resmi mengumumkan , sebuah konfigurasi yang terdiri dari empat buah GPU AI H200 saling terhubung dalam satu modul PCI Express (PCIe).
Karena tergabung dalam satu modul berjenis PCIe, Nvidia mengeklaim H200 NVL dapat digunakan dengan mudah di berbagai server atau data center AI yang dimiliki oleh perusahaan.
Secara teknis, satu chip GPU AI H200 memiliki memori berjenis HBM3e dengan kapasitas 141 GB, sehingga jika empat GPU digabungkan, maka total kapasitas memori di H200 NVL menjadi 564 GB.
Keempat GPU AI H200 ini, yang dihubungkan via standar kegiatan NVLink, masing-masing memiliki bandwidth 4,8 TB/s, performa 34 TFLOPs untuk komputasi AI FP64 atau 67 TFLOPs untuk FP32, dan konsumsi daya mencapai 600 watt.
Baca juga:
Jika dibandingkan dengan generasi sebelumnya, yaitu H100 NVL, H200 NVL disebut memiliki peningkatan memori mencapai 1,5 kali lipat, bandwidth hingga 1,2 kali lipat, serta memiliki performa 1,7 kali lipat untuk kinerja AI di segmen inference.
Untuk kinerja komputasi tinggi (high-performance computing/HPC), Nvidia H200 NVL diklaim memiliki performa 1,3 kali lebih cepat dari H100 NVL, serta memiliki peningkatan 2,5 kali lipat dari GPU AI berarsitektur Ampere.
Supaya bisa beroperasi dengan optimal tanpa kepanasan (overheat) dan tetap hemat daya, GPU AI H200 NVL juga dapat dikonfigurasikan dengan sistem pendingin berbasis udara (air).
Selain H200 NVL, Nvidia juga mengumumkan "Superchip" GB200 NVL4.
Sama seperti H200 NVL, GB200 NVL4 merupakan solusi yang menggabungkan empat GPU AI, namun dengan arsitektur Grace Blackwell (GB) GB200 yang diperkenalkan sekitar Maret lalu.
Bedanya lagi, empat GPU AI dengan arsitektur Blackwell ini digabungkan ke dalam satu papan (board) bersamaan dengan dua prosesor (CPU) "Grace" bikinan Nvidia yang memiliki memori LPDDR5X dengan total kapasitas 960 GB.
Baca juga:
Nah, berbagai komponen ini sendrii dihubungkan memakai teknik NVLink, dan berkat teknologi terbaru ini, Nvidia mengeklaim GB200 NVL4 dapat memberikan kapasitas memori HBM3 mencapai 768 GB dengan bandwidth mencapai 32 TB/s.
Dibandingkan generasi sebelumnya GH200 NVL4, Nvidia mengeklaim GB200 NVL4 memiliki performa 2,2 kali lebih cepat dan mampu menghasilkan proses latihan (training) atau mendukung inference AI 1,8 kali lebih efisien.
Sebagaimana dirangkum BeritasajaTekno dari Nvidia, Rabu (20/11/2024), GPU AI H200 NVL sudah tersedia mulai pekan ini, sedangkan ketersediaan GB200 NVL4 akan menyusul pada pertengahan 2025 mendatang.
Cara membuat YouTube Music '2024 Recap' cukup mudah. Semua pengguna, baik yang berlangganan atau tidak, bisa membuat kilas balik musik sepanjang tahun
Pengguna di Indonesia pun juga sudah kebagian sistem antarmuka baru dari Oppo ini. ColorOS 15 akan hadir di beberapa ponsel Oppo di Indonesia.
2 Tersangka pengelola situs judi online Naga Kuda 138 merupakan pemberi gift Tiktokers Gunawan Sabdor saat live.
Pernikahan ini disebut sudah lama direncanakan meski baru terungkap ke publik.
Tablet Oppo Enco Pad 3 juga dibekali dengan berbagai fitur kecerdasan buatan (AI), seperti AI Writer, AI Recording Summary, dan AI Speak.
Brotowali dikenal sebagai salah satu herbal ampuh untuk rematik. Simak cara membuat ramuannya.
Samsung kabarnya akan merilis dua smartphone lipat 'clamshell' tahun depan, salah satunya Galaxy Z Flip 7 FE, versi 'murah' Galaxy Z Flip 7 'reguler'.
Diky menyampaikan, Pramono-Rano menjadi kandidat yang paling konsisten membahas Persija. Pramono-Rano dipandang tak seperti pasangan calon lain yang kerap hilang timbul, jika membahas seputar Persija.
Ade Ary menambahkan, anggota Reskrim Polsek Pagedangan telah melakukan olah Tempat Kejadian Perkara (TKP).
Nenek 80-an asal Zambia jadi viral usai unggah dirinya menjadi model fashion di media sosial.
21 Nov 2024