virprom.com – Advanced Micro Devices (AMD) telah mengumumkan ketersediaan unit pemrosesan kecerdasan buatan (GPU) barunya yang diberi nama Instinct MI325X.
Chip yang merupakan penerus AMD Instinct MI300X yang diperkenalkan pada akhir Desember tahun lalu ini diklaim lebih bertenaga dibandingkan chip Nvidia H200 AI pesaingnya.
Di atas kertas, GPU AI Instinct MI325X memiliki jumlah transistor 153 miliar dan memori HBM3E berkapasitas 256 GB, lebih baik dibandingkan Nvidia H200 yang memiliki jumlah 80 miliar dan memori 141 GB.
GPU AI baru AMD, yang dirancang dengan arsitektur AMD CDNA 3, juga memiliki bandwidth 6 TB/s, sekitar 1,3 kali lebih cepat dibandingkan model Nvidia dengan 4,8 TB/s.
Dari segi performa, Instinct MI325X juga diklaim memiliki AI 1,3 kali lebih cepat untuk penghitungan setengah presisi (FP16) dan floating point 8-bit (FP8).
Baca Juga: India akan memproduksi chip AI, diluncurkan pada tahun 2026
Dalam beberapa pengujian internal AMD, performa komputasi chip AI FP16 dan FP8 terbaru AMD memiliki performa masing-masing hingga 1.307 TFLOPS dan 2.614 TFLOPS. Ini lebih baik dibandingkan Nvidia H200 yang mentok di 989 TFLOPS dan 1.978 TFLOPS.
Jadi untuk menjalankan beberapa jenis AI, dibandingkan Nvidia H200, AMD Instinct MI325X juga disebut-sebut memiliki performa inferment 1,3 kali lebih cepat untuk Mistral 7B (FP16), 1,2 kali lebih cepat untuk Llama 3.1 70B (FP8), dan 1,4 kali lebih cepat di Campuran. 8x7B (FP16).
Untuk ketersediaannya, GPU AI Instinct MI325X diperkirakan akan diproduksi massal pada akhir tahun 2024.
Pada awal tahun 2025, chip AI ini akan banyak terdapat di sistem besutan Dell, Eviden, Gigabyte, HP, Lenovo, dan Supermicro, seperti dirangkum KompasTekno dari TheRegister, Jumat (11/10/2024).
AMD belum mengatakan perusahaan mana atau perusahaan mana yang akan menggunakan chip AI baru tersebut. Namun yang jelas kehadiran chip AI baru AMD akan membuat “raja” produk chip AI yaitu Nvidia sedikit khawatir karena bisa memiliki banyak persaingan.
Baca juga: Bekerjasama dengan Broadcom, OpenAI akan membuat chip AI sendiri
Pesaing Instinct MI325X, Nvidia H200, merupakan produk Nvidia dengan arsitektur Hopper yang diluncurkan pada akhir tahun 2023, namun baru akan diproduksi pada pertengahan tahun 2024.
Pada tahun 2025, Nvidia akan memiliki chip AI baru yang dirancang dengan arsitektur baru bernama Blackwell, dengan produk bernama Nvidia B100 dan B200.
Kedua chip AI yang dikabarkan mulai diproduksi pada akhir tahun ini ini memiliki memori yang lebih kecil dibandingkan Instinct MI325X, yakni hingga 192 GB, namun dengan bandwidth yang lebih cepat, mencapai 8 TB/s. Dengarkan berita dan berita pilihan kami langsung di ponsel Anda. Pilih saluran berita favorit Anda untuk bergabung dengan saluran WhatsApp virprom.com: https://www.whatsapp.com/channel/0029VaFPbedBPzjZrk13HO3D. Pastikan Anda sudah menginstal aplikasi WhatsApp.