GPU AI generasi berikutnya dari Nvidia dapat menghasilkan gambar

Dell, salah satu produsen server terbesar di dunia, telah mengungkapkan rahasia tentang GPU AI Nvidia yang akan datang, dengan nama kode Blackwell. Prosesor ini tampaknya akan menggunakan daya hingga 1.000 watt, yang merupakan peningkatan sebesar 40% dibandingkan generasi sebelumnya, sehingga Dell harus menggunakan keahlian tekniknya untuk mendinginkan GPU ini. Komentar Dell juga dapat mengisyaratkan beberapa keunikan arsitektur GPU komputasi Nvidia yang akan datang.

“Tentu saja dari sudut pandang apa pun mengenai perubahan ini, kami gembira dengan apa yang terjadi pada H200 dan peningkatan kinerjanya,” kata Yvonne McGill, chief financial officer Dell. “Kami gembira dengan apa yang terjadi pada B100 dan B200, dan menurut kami di situlah sebenarnya ada peluang lain untuk membedakan kepercayaan teknis. Kinerja kami di sisi termal, Anda benar-benar tidak memerlukan pendingin cair langsung untuk mendapatkan kepadatan energi . ” 1000 watt per GPU.”

Gesek untuk menggulir secara horizontal Tom HardwareNvidia H100 (saat ini)Nvidia B100 (Dell est.)AMD MI300XNvidia H200 (saat ini)FP16/bf16 TFLOPS989?1307989Konsumsi daya700W1000W710W1000W710W700WD01 mmq700WD4

Karena kami tidak mengetahui rencana Nvidia untuk arsitektur Blackwell-nya, kami hanya dapat merujuk pada aturan praktis mengenai pembuangan panas, yang menyatakan bahwa pembuangan panas biasanya melebihi sekitar 1W per milimeter persegi area chip.

Di sinilah hal menarik dari perspektif manufaktur chip: H100 Nvidia (dibangun dengan teknologi proses kelas 4nm miliknya sendiri) sudah menghabiskan daya sekitar 700W, bahkan dengan daya memori HBM yang disertakan, dan chip die berukuran 814^2, sehingga jatuh di bawah 1W per milimeter persegi. Matriks ini dibangun di atas teknologi proses TSMC sendiri dengan peningkatan kinerja sebesar 4nm.

GPU Nvidia generasi berikutnya mungkin akan dibangun pada teknologi proses yang berbeda dengan peningkatan kinerja, dan kita hanya dapat menebak bahwa itu akan dibangun pada teknologi proses kelas 3nm. Mengingat jumlah daya yang dikonsumsi chip dan pembuangan panas yang diperlukan, masuk akal untuk berpikir bahwa Nvidia B100 bisa menjadi desain dual-die, yang pertama bagi perusahaan, yang memungkinkannya memiliki lebih banyak luas permukaan untuk menangani panas yang dihasilkan. . Kita telah melihat AMD dan Intel mengadopsi arsitektur GPU multi-die, jadi hal ini sejalan dengan tren industri lainnya.

Terkait aplikasi AI dan HPC berperforma tinggi, kita perlu mempertimbangkan performa yang diukur dalam FLOPS dan daya yang diperlukan untuk mencapai FLOPS tersebut serta mendinginkan energi panas yang dihasilkan. Cara menggunakan FLOPS ini secara efektif penting bagi pengembang perangkat lunak. Cara mendinginkan prosesor yang memproduksi FLOPS ini penting bagi pengembang perangkat keras. Di sinilah Dell mengatakan teknologinya siap mengungguli pesaing perusahaan, itulah sebabnya CFO Dell berbicara tentang GPU Blackwell generasi berikutnya dari Nvidia.

“Itu akan terjadi tahun depan dengan B200,” kata McGill, mengacu pada AI dan GPU HPC Nvidia berikutnya. “Sebuah kesempatan bagi kami untuk benar-benar memamerkan teknik kami dan seberapa cepat kami dapat bergerak serta pekerjaan yang telah kami lakukan sebagai pemimpin industri untuk menghadirkan keahlian kami dalam membuat pendingin cair berfungsi dalam skala besar, baik dalam bidang kimia fluida dan ketenagalistrikan, interkoneksi kami pekerjaan, telemetri yang kami lakukan, pekerjaan manajemen daya yang kami lakukan benar-benar memungkinkan kami untuk siap membawanya ke pasar dalam skala besar untuk memanfaatkan kapasitas atau intensitas atau kemampuan komputasi luar biasa yang akan ada di masa depan. pasar.”