Nvidia Mengungkapkan Inovasi Terbaru dalam Konferensi GTC 2024

Pada Senin 19 Maret 2024, Nvidia, perusahaan teknologi global terkemuka, telah menggelar konferensi Global Technology Conference (GTC) di SAP Center, San Jose. Dalam keynote yang dipimpin oleh Presiden Nvidia, Jensen Huang, perusahaan tersebut mengungkapkan inovasi terbaru dalam teknologi pemrosesan grafis dan kecerdasan buatan. Dalam sambutannya, Huang mengatakan, "Harap Anda sadari ini bukan konser. Anda telah tiba di konferensi pengembang. Akan ada banyak ilmu yang menjelaskan algoritma, arsitektur komputer, matematika."

Nvidia, perusahaan yang didirikan pada tahun 1993 dengan misi untuk mendorong komputasi umum melampaui batasnya, kembali menghadirkan semangatnya dalam acara tersebut. "Accelerated computing" menjadi fokus perusahaan ini, dengan chip dan papan yang berspesialisasi untuk keperluan umum. Chip Nvidia telah memberikan kontribusi besar bagi para gamer dengan kualitas grafis yang tinggi, resolusi yang lebih tinggi, dan frame rate yang lebih baik.

Nvidia Merilis Chip AI Tercepat di Dunia: Blackwell B200

Salah satu sorotan utama dalam keynote adalah pengumuman platform baru mereka, Blackwell. Huang menjelaskan bahwa Blackwell adalah “monster” baru yang menggabungkan kekuatan dua chip dan menawarkan kecepatan luar biasa sebesar 10 Tbps. Generasi sebelumnya, Hopper, yang dioptimalkan untuk kecerdasan buatan (AI), sudah cukup cepat, namun Blackwell jauh lebih unggul, dengan kecepatan 2 hingga 30 kali lipat tergantung pada metrik pengukuran yang digunakan.

Chip AI generasi baru ini merupakan suksesor dari GPU AI Nvidia sebelumnya yang menggunakan arsitektur Hopper, tepatnya Hopper H100 yang diperkenalkan pada tahun 2022. Perbedaan yang signifikan antara Blackwell B200 dengan pendahulunya adalah jumlah transistor yang dimiliki. Jika Hopper H100 memiliki 80 miliar unit transistor, maka Blackwell B200 memiliki 208 miliar unit transistor, menunjukkan peningkatan yang signifikan dalam kapasitas dan kemampuan prosesornya.

Salah satu pencapaian luar biasa dari Blackwell B200 adalah kemampuannya untuk menghasilkan performa FP4 hingga 20 petaflop. Angka ini menunjukkan keunggulan mutlak dalam komputasi AI, yang menjadi kunci utama dalam perkembangan teknologi kecerdasan buatan. Tidak hanya itu, Nvidia juga mengklaim bahwa dalam konfigurasi standar, dua chip AI Blackwell B200 dapat digabungkan dalam satu motherboard dengan satu prosesor (CPU), membentuk konfigurasi yang dikenal dengan sebutan Blackwell GB200.

Konfigurasi ini memberikan keunggulan yang sangat besar dalam hal performa inference AI dari Large Language Model (LLM). Nvidia mengklaim bahwa konfigurasi GB200 dapat menghasilkan performa inference AI hingga 30 kali lipat lebih mumpuni dibandingkan dengan generasi sebelumnya. Hal ini menjadi tonggak penting dalam mengembangkan aplikasi AI yang lebih canggih dan responsif.

Dalam uji benchmark terhadap large language model GPT-3 (LLM GPT-3), Nvidia memperlihatkan bahwa GB200 memiliki peningkatan performa sebanyak 7 kali lipat, serta dapat melatih AI hingga 4 kali lebih cepat dibanding chip AI H100. Tidak hanya itu, GB200 juga diklaim 25 kali lebih efisien dalam penggunaan daya dan biaya, jika dibandingkan dengan sistem serupa yang menggunakan chip AI H100.

Satu hal yang menarik adalah efisiensi dari chip AI Blackwell B200 dalam melatih parameter AI. Nvidia mengklaim bahwa chip ini mampu melatih 1,8 triliun parameter AI dengan hanya menggunakan 2.000 unit B200 dan konsumsi daya sebesar 4 megawatt. Perbandingannya sangat mencolok jika dibandingkan dengan chip AI H100, dimana sebuah perusahaan memerlukan sekitar 8.000 unit H100 dengan konsumsi daya mencapai 15 megawatt untuk menjalankan proses yang sama.

Selain konfigurasi GB200, Nvidia juga menyediakan variasi lain seperti GB200 NVL72 yang terdiri dari 36 CPU dan 72 GPU dalam satu rak sistem. Konfigurasi ini dijelaskan mampu menghasilkan performa pelatihan AI hingga 720 petaflop dan performa inference AI hingga 1,4 exaflop. Selain itu, konfigurasi tertinggi untuk GPU AI Blackwell adalah DGX GB200, yang memungkinkan suatu perusahaan memiliki delapan rak sistem untuk menopang beban kinerja AI.

Delapan rak sistem ini terdiri dari 288 CPU, 576 GPU, dengan memori (RAM) hingga 240 TB. Konfigurasi ini memungkinkan komputasi FP4 hingga 11,5 exaflops, sebuah angka yang mencengangkan dalam dunia komputasi tingkat tinggi. Semua rak sistem ini dapat dihubungkan kembali dengan rak sistem tambahan yang jumlahnya tidak terbatas, sesuai dengan kebutuhan perusahaan.

Dengan peluncuran chip AI Nvidia Blackwell B200 ini, perusahaan teknologi besar seperti Amazon, Google, Microsoft, dan Oracle diprediksi akan mengadopsi teknologi ini untuk menjalankan berbagai kinerja AI mereka di masa mendatang. Hal ini menandakan bahwa Nvidia terus mengukuhkan posisinya sebagai pemimpin dalam pengembangan teknologi kecerdasan buatan yang canggih dan efisien. Meskipun belum ada informasi pasti mengenai waktu atau jumlah GPU Blackwell yang akan dibeli oleh perusahaan-perusahaan tersebut, namun ekspektasi akan adopsi yang luas terhadap teknologi ini sangat tinggi.

Tidak hanya itu, Nvidia juga memperkenalkan serangkaian alat baru untuk produsen mobil yang bekerja pada mobil otonom dan robotika. Huang menekankan peran Nvidia dalam membawa revolusi industri baru yang disebutnya sebagai "AI Factory" bukan hanya pusat data. “Saya menyebutnya pabrik kecerdasan buatan," kata Huang.

Satu lagi inovasi yang menarik dari acara ini adalah Nvidia NIM, sebuah platform perangkat lunak yang bertujuan untuk menyederhanakan penyebaran model AI. Dengan memanfaatkan hardware Nvidia sebagai dasar, NIM bertujuan untuk mempercepat inisiatif AI perusahaan dengan menyediakan ekosistem kontainer AI yang siap pakai, yang mendukung model dari berbagai sumber seperti Nvidia, Google, dan Hugging Face, serta terintegrasi dengan platform seperti Amazon SageMaker dan Microsoft Azure AI.

Dalam era revolusi AI generatif, Huang juga menyatakan bahwa segala hal yang dapat didigitalisasi dapat dipelajari, dimengerti, dan bahkan dihasilkan oleh teknologi AI. Hal ini membuka peluang besar bagi pengembangan teknologi AI di masa depan.

Dengan demikian, acara keynote Nvidia di GTC tidak hanya menghadirkan berbagai inovasi teknologi terbaru, tetapi juga menggambarkan visi perusahaan dalam mendorong batas-batas komputasi dan kecerdasan buatan untuk keperluan umum serta industri khusus seperti otomotif dan robotika.