NVIDIA ( NVDA ) trở thành 'hệ điều hành' của nhà máy AI: vị thế dẫn đầu trong đổi mới mạng trung tâm dữ liệu

Nguồn: TokenPost Tiêu đề gốc: NVIDIA(NVDA), trở thành 'hệ điều hành' của nhà máy AI… dẫn đầu đổi mới mạng trung tâm dữ liệu Liên kết gốc: NVIDIA ( NVDA ) vượt qua GPU hiệu suất cao, tập trung vào đổi mới kiến trúc mạng giữa các trung tâm dữ liệu, thiết lập tiêu chuẩn mới cho nhà máy AI. Trong cấu trúc tính toán phân tán, xem mạng như hệ điều hành để nâng cao hiệu suất và hiệu quả năng lượng.

Phó Giám đốc cấp cao bộ phận tiếp thị của NVIDIA, Gilad Shainer (, đã nhấn mạnh trong một cuộc phỏng vấn gần đây: "Khối lượng công việc AI về bản chất là phân tán, do đó cần phải có sự phối hợp mạng lưới tinh vi để cho hàng ngàn bộ tăng tốc hoạt động như một động cơ tính toán. "Cấu trúc phải được thực hiện để truyền cùng một dữ liệu với cùng tốc độ đến từng GPU mà không có độ trễ, nhằm tối ưu hóa tốc độ tính toán tổng thể.

Trong cấu trúc xử lý phân tán này, mạng không còn chỉ là phương tiện kết nối đơn giản, mà đóng vai trò như một hệ điều hành thực chất )OS(. Shaina cho biết, không chỉ là các ASIC ) dành riêng cho GPU, mà còn bao gồm thiết kế mạng tích hợp hữu cơ các bộ tăng tốc này, đã trở thành yếu tố quan trọng nhất quyết định hiệu suất của nhà máy AI.

NVIDIA không chỉ xem xét hiệu suất mà còn đưa hiệu quả năng lượng vào tính toán, áp dụng phương pháp thiết kế đồng bộ (Co-design) để thiết kế toàn diện mạng lưới qua phần cứng, phần mềm và khung. Khi tất cả các yếu tố tính toán từ khung mô hình đến kết nối vật lý được thiết kế đồng bộ, tốc độ xử lý token, hiệu suất thực thi và khả năng dự đoán mới có thể được tối đa hóa. Shaina đã nhấn mạnh điều này.

Đặc biệt, thiết kế mật độ cao là lợi thế khác biệt của NVIDIA. Mặc dù các trung tâm dữ liệu truyền thống có xu hướng tránh sự tập trung quá mức, nhưng NVIDIA đã áp dụng một chiến lược khác: sắp xếp chặt chẽ các GPU ASIC hiệu suất cao trong giá, đạt được mục tiêu kép về khả năng mở rộng và hiệu quả năng lượng thông qua kết nối đồng dựa trên công suất thấp. Khi mở rộng quy mô lớn, ứng dụng công nghệ quang đồng gói như 'Spectrum-X Ethernet Photonics(' hoặc 'Quantum-X InfiniBand' sẽ giảm hơn nữa năng lượng tiêu thụ trong việc di chuyển dữ liệu.

Chiến lược này vượt ra ngoài việc nâng cấp phần cứng đơn thuần, rõ ràng thể hiện tham vọng của NVIDIA trong việc hiện thực hóa mô hình mới 'trung tâm dữ liệu cực lớn = siêu máy tính' trong kỷ nguyên tính toán trung tâm AI. Quyền lực hạ tầng nhà máy AI đang chuyển từ 'khả năng sản xuất GPU' sang 'khả năng biến toàn bộ trung tâm dữ liệu thành các đơn vị tính toán hữu cơ'. Giai đoạn tiếp theo của cơn sốt AI dường như sẽ bắt đầu từ kiến trúc tính toán mạng thống trị này.