Intel mengatakan akselerator Gaudi2 lebih dari cocok dengan Nvidia A100

Halo teman akrab TanyaTekno, ketemu kembali kita di artikel ini. Di artikel ini saya dapat mengulas Intel mengatakan akselerator Gaudi2 lebih dari cocok dengan Nvidia A100

Secara singkat: Intel telah memicu persaingan antara akselerator Gaudi2 baru dan yang sekarang memimpin di pasar dua tahun lalu, Nvidia A100. Dalam dua kriteria yang sesuai dengan perawakannya, akselerator baru dengan nama mencolok sedang bergerak maju.

Gaudi2 diproduksi untuk Intel oleh Habana Labs, sebuah perusahaan Israel yang diakuisisi pada akhir 2019 seharga $2 miliar. Faktanya, Habana membuat dua jenis akselerator khusus: beberapa untuk melatih jaringan saraf, seperti Gaudi2; dan orang lain untuk menjalankan (yaitu “menyimpulkan”) pada mereka, seperti Goya dan Greco.

pertunjukan

Habana dan Intel meluncurkan Gaudi2 pada bulan Mei, tetapi mereka menunggu hingga minggu lalu untuk mengunggah hasil benchmark mereka ke database MLPerf publik. Dalam grafik mereka, mereka membandingkan skor sistem Gaudi2 mereka dengan skor keseluruhan untuk sistem yang dilengkapi A100 dari Nvidia dan Dell.

ResNet-50 menguji kemampuan perangkat untuk melatih kecerdasan buatan untuk mengklasifikasikan gambar. Sistem Gaudi2 Habana hanya membutuhkan waktu 18 menit untuk melatih AI dengan cukup baik untuk lulus tes, dengan mudah melewati sistem A100 Nvidia, yang memakan waktu hampir setengah jam.

Sistem Gaudi2 Habana hanya membutuhkan waktu 17 menit untuk melatih model BERT, mengalahkan waktu sistem A100 Nvidia sekitar satu menit. BERT adalah model pemrosesan bahasa alami, dan dalam pengujian ini, ia melatih dirinya sendiri dengan artikel Wikipedia.

Untuk kedua tolok ukur, semua sistem menggunakan delapan akselerator/GPU. Habana memasangkan sistem mereka dengan sepasang 40-core Intel Xeon 8380 CPU, dan Nvidia menggunakan dua 64-core AMD Epyc 7742 CPU.

Menentukan

Gaudi2 memiliki 24 TPC (Tensioner Processor Cores) dan dua MME (Matrix Multiplexing Engines) yang beroperasi sebagian secara paralel. Ini mendukung berbagai tipe data, termasuk FP32, TF32, BF16, FP16, dan FP8. Ini juga memiliki mesin media khusus untuk memproses media audio dan video sebagai input.

Untuk memori, Gaudi2 memiliki enam tumpukan HBM2e 16GB dengan total 96GB dan total bandwidth memori 2,45TB/s. Di dalam, ia memiliki cache 48MB. Untuk konektivitas, ia menggunakan koneksi x16 PCIe 4.0 dan memiliki port RoCE2 (RDMA over Ethernet 2) 24 x 100Mbps.

Kompetisi

Jelas bahwa Habana telah menciptakan pesaing nyata untuk Intel A100. Waktunya mungkin lebih baik, mengingat Nvidia mengumumkan H100 tiga bulan lalu, tetapi kedua produk ini sangat berbeda sehingga meskipun mereka mungkin bersaing dalam benchmark, mereka mungkin tidak benar-benar bersaing untuk slot motherboard.

Sementara A100 dan H100 adalah raksasa serbaguna, Gaudi2 adalah akselerator ramping yang mencoba melakukan sesuatu yang berbeda, dan akan menyenangkan untuk melihat apakah itu berhasil.

Demikianlah pembahasanmengenai Intel mengatakan akselerator Gaudi2 lebih dari cocok dengan Nvidia A100

. Jangan Lupa untuk
berbagi artikel ini ya sobat.

Rujukan Artikel