NVIDIA ( NVDA ) menjadi 'sistem operasi' pabrik AI: posisi dominan inovasi jaringan pusat data

Sumber: TokenPost Judul Asli: 엔비디아(NVDA), Menjadi 'Sistem Operasi' Pabrik AI… Memimpin Inovasi Jaringan Pusat Data Tautan Asli: NVIDIA ( NVDA ) melampaui GPU berkinerja tinggi, fokus pada inovasi arsitektur jaringan antara pusat data, menetapkan standar baru untuk pabrik AI. Dalam struktur komputasi terdistribusi, jaringan berfungsi sebagai sistem operasi untuk meningkatkan kinerja dan efisiensi energi.

Wakil Presiden Senior Pemasaran NVIDIA, Gilad Shainer (, dalam wawancara terbaru menekankan: “Beban kerja AI pada dasarnya bersifat terdistribusi, sehingga memerlukan koordinasi jaringan yang cermat agar ribuan akselerator dapat beroperasi seperti satu mesin komputasi.” Struktur yang dapat mengirimkan data yang sama ke setiap GPU tanpa penundaan dan dengan kecepatan yang sama harus diwujudkan untuk mengoptimalkan kecepatan komputasi keseluruhan.

Dalam struktur pemrosesan terdistribusi ini, jaringan tidak lagi sekadar menjadi sarana koneksi, tetapi berfungsi sebagai sistem operasi yang substansial )OS(. Shaina menyatakan bahwa bukan hanya ASIC) khusus GPU, tetapi juga desain jaringan yang mengintegrasikan akselerator ini secara organik, telah menjadi faktor terpenting yang menentukan kinerja pabrik AI.

NVIDIA tidak hanya mempertimbangkan kinerja, tetapi juga memasukkan efisiensi energi ke dalam pertimbangan, menggunakan metode desain kolaboratif (Co-design) untuk merancang jaringan secara menyeluruh di seluruh perangkat keras, perangkat lunak, dan kerangka. Ketika semua elemen komputasi dari kerangka model hingga koneksi fisik dirancang secara keseluruhan, kecepatan pemrosesan token, efisiensi eksekusi, dan prediktabilitas dapat dimaksimalkan. Shaina menekankan hal ini.

Terutama desain kepadatan tinggi adalah keunggulan diferensiasi dari NVIDIA. Meskipun pusat data tradisional cenderung menghindari kepadatan yang berlebihan, NVIDIA mengambil strategi yang berbeda: menyusun GPU ASIC berkinerja tinggi secara rapat di dalam rak, dengan mengimplementasikan koneksi berbasis tembaga berdaya rendah untuk mencapai tujuan ganda skalabilitas dan efisiensi energi. Saat melakukan skala besar, menerapkan 'Spectrum-X Ethernet Photonics ( Spectrum-X Ethernet Photonics )' atau 'Quantum-X InfiniBand' dan teknologi optik co-packaged ( Co-packaged Optics ), lebih lanjut mengurangi energi yang dikonsumsi untuk memindahkan data.

Strategi ini melampaui sekadar peningkatan perangkat keras, dengan jelas menunjukkan ambisi Nvidia dalam mewujudkan paradigma baru 'data center super besar = superkomputer' di era komputasi pusat AI. Kepemimpinan infrastruktur pabrik AI sedang beralih dari 'kemampuan pembuatan GPU' ke 'kemampuan mengubah seluruh data center menjadi unit komputasi organik'. Tahap berikutnya dari gelombang AI tampaknya akan dimulai dari arsitektur komputasi yang didominasi jaringan ini.