Jensen Huang ingin membawa AI generatif ke setiap pusat data, kata salah satu pendiri dan CEO Nvidia selama Computex di Taipei hari ini. Selama pidatonya, pidato publik pertama Huang dalam hampir empat tahun katanya, dia membuat banyak pengumuman, termasuk tanggal rilis chip, komputer super DGX GH200 dan kemitraan dengan perusahaan besar. Ini semua berita dari keynote selama dua jam.

  1. GPU Nvidia GForce RTX 4080 Ti untuk para gamer kini dalam produksi penuh dan diproduksi dalam “jumlah besar” dengan mitra di Taiwan.

2. Huang mengumumkan Nvidia Avatar Cloud Engine (ACE) untuk Game, layanan pengecoran model AI yang dapat disesuaikan dengan model yang telah dilatih sebelumnya untuk pengembang game. Ini akan memberi NPC lebih banyak karakter melalui interaksi bahasa bertenaga AI.

3. Model komputasi Nvidia Cuda kini melayani empat juta pengembang dan lebih dari 3.000 aplikasi. Cuda melihat 40 juta unduhan, termasuk 25 juta hanya tahun lalu saja.

4. Produksi volume penuh server GPU HGX H100 telah dimulai dan diproduksi oleh “perusahaan di seluruh Taiwan,” kata Huang. Dia menambahkan itu adalah komputer pertama di dunia yang memiliki mesin trafo di dalamnya.

5. Huang menyebut akuisisi pembuat chip superkomputer Mellanox pada 2019 oleh Nvidia sebesar $6,9 miliar sebagai “salah satu keputusan strategis terbesar” yang pernah dibuatnya.

6. Produksi GPU Hopper generasi berikutnya akan dimulai pada Agustus 2024, tepat dua tahun setelah generasi pertama mulai diproduksi.

7. GH200 Grace Hopper Nvidia sekarang dalam produksi penuh. Superchip ini meningkatkan 4 PetaFIOPS TE, 72 Arm CPU yang terhubung dengan chip-to-chip link, 96GB HBM3 dan memori 576 GPU. Huang menggambarkan sebagai prosesor komputasi terakselerasi pertama di dunia yang juga memiliki memori raksasa: “ini komputer, bukan chip.” Ini dirancang untuk aplikasi pusat data dengan ketahanan tinggi.

8. Jika memori Grace Hopper tidak cukup, Nvidia punya solusinya—DGX GH200. Itu dibuat dengan terlebih dahulu menghubungkan delapan Grace Hoppers bersama dengan tiga NVLINK Switches, kemudian menghubungkan pod bersama-sama pada 900GB bersama. Kemudian akhirnya, 32 digabungkan bersama, dengan lapisan sakelar lainnya, untuk menghubungkan total 256 chip Grace Hopper. ExaFLOPS Transformer Engine yang dihasilkan memiliki memori GPU 144 TB dan berfungsi sebagai GPU raksasa. Huang mengatakan Grace Hopper sangat cepat sehingga dapat menjalankan tumpukan 5G dalam perangkat lunak. Google Cloud, Meta, dan Microsoft akan menjadi perusahaan pertama yang memiliki akses ke DGX GH200 dan akan melakukan penelitian terhadap kemampuannya.

9. Nvidia dan SoftBank telah menjalin kemitraan untuk memperkenalkan superchip Grace Hopper ke pusat data terdistribusi baru SoftBank di Jepang. Mereka akan dapat meng-host AI generatif dan aplikasi nirkabel dalam platform server umum multi-penyewa, mengurangi biaya dan energi.

10. Kemitraan SoftBank-Nvidia akan didasarkan pada arsitektur referensi Nvidia MGX, yang saat ini digunakan dalam kemitraan dengan perusahaan di Taiwan. Ini memberi produsen sistem arsitektur referensi modular untuk membantu mereka membangun lebih dari 100 variasi server untuk AI, komputasi yang dipercepat, dan penggunaan omniverse. Perusahaan yang bermitra termasuk ASRock Rack, Asus, Gigabyte, Pegatron, QCT dan Supermicro.

11. Huang mengumumkan platform jaringan yang dipercepat Spectrum-X untuk meningkatkan kecepatan cloud berbasis Ethernet. Ini termasuk sakelar Spectrum 4, yang memiliki 128 port 400GB per detik dan 51,2T per detik. Sakelar ini dirancang untuk memungkinkan jenis Ethernet baru, kata Huang, dan dirancang end-to-end untuk melakukan perutean adaptif, mengisolasi kinerja, dan melakukan komputasi in-fabric. Ini juga termasuk Bluefield 3 Smart Nic, yang terhubung ke sakelar Spectrum 4 untuk melakukan kontrol kemacetan.

12. WPP, biro iklan terbesar di dunia, telah bermitra dengan Nvidia untuk mengembangkan mesin konten berbasis Nvidia Omniverse. Ini akan mampu menghasilkan konten foto dan video untuk digunakan dalam iklan.

13. Platform robot Nvidia Isaac ARM kini tersedia bagi siapa saja yang ingin membuat robot, dan lengkap, mulai dari chip hingga sensor. Isaac ARM memulai dengan chip yang disebut Nova Orin dan merupakan kumpulan referensi penuh robotika pertama, kata Huang.

Berkat pentingnya komputasi AI, saham Nvidia telah melonjak selama setahun terakhir, dan saat ini memiliki penilaian pasar sekitar $960 miliar, menjadikannya salah satu perusahaan paling berharga di dunia (hanya Apple, Microsoft, Saudi Aramco, Alphabet, dan Amazon berperingkat lebih tinggi).