AMD Umumkan Chip AI Instinct MI325X, Lebih Tangguh dari Nvidia H200

Beritasaja.com - Advanced Micro Devices () mengumumkan kehadiran chip pengolah grafis (GPU) kecerdasan buatan (AI) terbarunya bernama .

Chip tersebut, yang merupakan suksesor dari AMD Instinct MI300X yang diperkenalkan sekitar akhir Desember lalu, diklaim lebih tangguh dari chip AI kompetitor .

Di atas kertas, Instinct MI325X memiliki jumlah transistor mencapai 153 miliar dan kapasitas memori HBM3E mencapai 256 GB, lebih besar dari H200 yang memiliki jumlah transistor 80 miliar dan memori 141 GB.

GPU AI teranyar AMD itu, yang dirancang memakai arsitektur AMD CDNA 3, juga memiliki bandwidth 6 TB/s, sekitar 1,3 kali lebih cepat dibanding produk buatan Nvidia dengan 4,8 TB/s.

Pada aspek performa, Instinct MI325X juga diklaim memiliki kinerja AI 1,3 kali lipat lebih cepat untuk komputasi model floating-point half precision (FP16) dan 8-bit floating-point (FP8).

Baca juga:

Dalam beberapa pengujian internal AMD, kinerja komputasi FP16 dan FP8 chip AI terbaru AMD ini masing-masing memiliki performa hingga 1.307 TFLOPS dan 2.614 TFLOPS.

Ini lebih tinggi dari Nvidia H200 yang mentok di 989 TFLOPS dan 1.978 TFLOPS.

Kemudian untuk menjalankan sejumlah model AI, dibanding Nvidia H200, AMD Instinct MI325X juga disebut memiliki performa inference 1,3 kali lebih cepat untuk Mistral 7B (FP16), 1,2 kali lebih cepat untuk Llama 3.1 70B (FP8), dan 1,4 kali lebih cepat di Mixtral 8x7B (FP16).

Untuk ketersediaan, GPU AI Instinct MI325X rencananya akan diproduksi massal pada akhir 2024.

Pada awal 2025, chip AI ini akan tersedia di sejumlah sistem bikinan Dell, Eviden, Gigabyte, HP, Lenovo, hingga Supermicro, sebagaimana dirangkum BeritasajaTekno dari TheRegister, Jumat (11/10/2024).

AMD tak mengumbar siapa atau perusahaan apa saja yang akan menggunakan chip AI terbaru buatan mereka.

Namun yang jelas, kehadiran chip AI terbaru AMD ini akan membuat "raja" di produk chip AI, yaitu Nvidia, akan sedikit terganggu lantaran mungkin akan memiliki kompetisi yang cukup ketat.

Baca juga:

Pesaing Instinct MI325X sendiri, yaitu Nvidia H200 merupakan produk Nvidia berarsitektur Hopper yang meluncur akhir 2023 lalu, namun baru diproduksi dan tersedia pertengahan 2024 ini.

Pada 2025 mendatang, Nvidia memiliki chip AI baru yang dirancang menggunakan arsitektur baru yang bernama Blackwell, dengan produk bernama Nvidia B100 dan B200.

Kedua chip AI tersebut, yang kabarnya mulai diproduksi akhir tahun ini, memiliki memori yang lebih sedikit dari Instinct MI325X, yaitu hingga 192 GB, namun dengan bandwidth lebih cepat yaitu mencapai 8 TB/s.