AI phần cứng của NVIDIA: tiến thoái lưỡng nan trong đồng thiết kế

Phần cứng AI NVIDIA: nỗi lưỡng nan của một phần mềm thay đổi mỗi sáu tháng

Tóm tắt nhanh: NVIDIA cho rằng việc thiết kế phần cứng cho trí tuệ nhân tạo cần có đồng thiết kế (co-design) xuyên suốt toàn bộ ngăn xếp. Bài phát biểu tại hội nghị Humax X ở San Francisco đã làm nổi bật ba điểm: sự đồng tiến hoá giữa chip và phần mềm, rủi ro khi chọn cái gì cần tăng tốc, và vai trò của Nemotron như một dự án mã nguồn mở để đọc hiểu các xu hướng của AI.

Trong bài phát biểu khai mạc của hội nghị Humax X, tại San Francisco, một câu hỏi trọng tâm đã xuất hiện đối với ngành: làm thế nào để thiết kế phần cứng AI NVIDIA trong bối cảnh phần mềm thay đổi triệt để mỗi sáu tháng?

Đối với NVIDIA, vấn đề này không mang tính lý thuyết. Theo phần giải thích trong bài phát biểu, đó là trái tim trong công việc của công ty trong hơn 30 năm. Trong lĩnh vực AI, đúng là các mô hình, framework, thư viện và cách tiếp cận triển khai (deployment) tiến hoá rất nhanh. Vì vậy, một tầm nhìn chỉ tập trung vào riêng chip là không đủ.

Thay vào đó, cần một chiến lược điều phối phần cứng và phần mềm dọc theo toàn bộ ngăn xếp công nghệ. Đây là luận điểm chính nổi lên từ bài phát biểu.

Phần cứng AI NVIDIA và đồng thiết kế xuyên suốt toàn bộ ngăn xếp

Câu trả lời mà NVIDIA đưa ra là đồng thiết kế, tức là đồng cùng thiết kế phần cứng và phần mềm. Không chỉ liên quan đến một tầng duy nhất của hạ tầng. Ngược lại, nó bao gồm các transistor, chip, kiến trúc tính toán, trình biên dịch (compilers), thư viện, framework phần mềm, bộ dữ liệu (dataset), các thuật toán AI và mạng (networking).

Xét theo góc độ công nghiệp, hiệu quả không chỉ sinh ra từ sức mạnh của silicon. Nó còn phụ thuộc vào khả năng đồng bộ hoá tất cả các thành phần biến một mô hình thành một hệ thống thực sự có thể chạy, có thể tối ưu và có thể triển khai ở quy mô lớn.

Do đó, lợi thế cạnh tranh không chỉ đến từ việc chế tạo phần cứng tiên tiến. Nó cũng đến từ khả năng cho phần cứng đó phát triển cùng với phần mềm mà nó sẽ được dùng để khai thác.

Phần cứng AI NVIDIA: quyết định chiến lược là chọn cái gì cần tăng tốc

Một trong những phần quan trọng nhất của bài phát biểu liên quan đến việc lựa chọn các ưu tiên. Thiết kế phần cứng cho AI không chỉ đơn thuần có nghĩa là tăng hiệu năng theo một cách chung chung. Nó có nghĩa là quyết định vấn đề nào cần được tăng tốc, công nghệ nào nên được ưu tiên và hướng nào được cho là khả dĩ nhất đối với sự phát triển trong tương lai của trí tuệ nhân tạo.

Lựa chọn này kéo theo rủi ro rất cao. Nếu thị trường và nghiên cứu đi theo một hướng khác với dự đoán, khoản đầu tư vào một kiến trúc cụ thể hoặc các tối ưu hoá cụ thể có thể mất giá trị rất nhanh.

Theo những gì được nêu trong bài phát biểu, NVIDIA áp dụng một chiến lược tập trung cao. Công ty không hướng tới đa dạng hoá sâu rộng. Ngược lại, họ dồn nguồn lực vào một hướng đi cụ thể. Công thức được nhắc lại trong bài phát biểu là rất rõ ràng: hoặc dự án thành công, hoặc thất bại hoàn toàn.

Đối với các chuyên gia trong ngành, điểm này đặc biệt quan trọng. Thiết kế phần cứng cho AI giờ đây không còn chỉ là một vấn đề kỹ thuật. Đó còn là một bài toán phân bổ chiến lược vốn, nhân lực và thời gian phát triển.

Vì sao việc tập trung rủi ro không chỉ là một canh bạc

Thoạt nhìn, một chiến lược không đa dạng hoá có thể trông như quá dễ tổn thương. Tuy nhiên, NVIDIA cho rằng sự đồng tiến hoá giữa phần mềm và phần cứng sẽ giảm bớt một phần của rủi ro này.

Nếu các nhà phát triển, các framework và hệ thống ứng dụng dần dần được điều chỉnh theo các lựa chọn kiến trúc của phần cứng, thì sẽ tạo ra hiệu ứng củng cố lẫn nhau. Nói cách khác, phần cứng tác động đến phần mềm và phần mềm củng cố mức độ phù hợp của phần cứng.

Cơ chế này đặc biệt quan trọng trong AI. Bởi lẽ, các trình biên dịch (compilers), thư viện và framework có thể quyết định một cách then chốt việc một nền tảng có được áp dụng thực tế hay không. Vì vậy, đồng thiết kế không chỉ nhằm cải thiện hiệu năng, mà còn nhằm xây dựng một quỹ đạo hệ sinh thái.

Nemotron: các mô hình mở để hiểu AI sẽ đi về đâu

Trong bối cảnh này, Nemotron được đưa vào như một dự án then chốt để hiểu sự phát triển của AI và định hướng cho thiết kế phần cứng trong tương lai. Theo bài phát biểu, ý tưởng là phát triển các mô hình mở để quan sát tốt hơn các hướng đi của ngành và của nghiên cứu.

Một điểm đáng chú ý là các mô hình của Nemotron sau đó được công bố công khai. Khía cạnh này mang giá trị kép. Một mặt, nó mở rộng khả năng tiếp cận các công cụ mã nguồn mở. Mặt khác, nó cho phép NVIDIA duy trì sự tiếp xúc trực tiếp hơn với các xu hướng kỹ thuật đang nổi lên.

Về mặt thực tiễn, Nemotron được giới thiệu như một “cảm biến chiến lược” (strategic sensor) ngoài vai trò một sáng kiến công nghệ. Nó không chỉ là một dự án mô hình. Đó cũng là một cách để đọc trước xem những khối lượng công việc (workloads), kiến trúc và các mẫu suy luận (inference) nào có thể trở thành trung tâm trong chu kỳ AI tiếp theo.

Từ các mô hình đến các hệ thống hoàn chỉnh cho suy luận và triển khai

Một bước chuyển đáng kể khác liên quan đến việc thay đổi ưu tiên trong ngành AI. Theo bài phát biểu, sự chú ý đang chuyển từ việc chỉ tạo ra mô hình sang xây dựng các hệ thống hoàn chỉnh cho suy luận (inference) và triển khai (deployment) ở quy mô lớn.

Đây là một sự chuyển đổi quan trọng. Ở giai đoạn đầu của làn sóng bùng nổ AI hiện tại, phần lớn cuộc tranh luận tập trung vào năng lực huấn luyện (training capacity) và quy mô của các mô hình. Ngày nay, thay vào đó, giá trị kinh tế ngày càng nằm ở khả năng đưa các mô hình đó vào sản xuất, làm cho chúng hoạt động một cách đáng tin cậy, kiểm soát độ trễ và chi phí, đồng thời tích hợp chúng vào các hạ tầng phân tán.

Sự dịch chuyển này kéo theo các hệ quả trực tiếp đối với phần cứng, networking và phần mềm hệ thống. Bởi lẽ suy luận trên quy mô lớn đòi hỏi một sự cân bằng khác so với huấn luyện. Hiệu quả năng lượng, điều phối (orchestration), tối ưu hoá các thư viện, quản lý luồng dữ liệu và tích hợp vận hành trở thành những yếu tố mang tính quyết định.

Đối với các kỹ sư và doanh nghiệp, thông điệp là rõ ràng: lợi thế cạnh tranh trong tương lai sẽ không chỉ phụ thuộc vào chất lượng mô hình, mà phụ thuộc vào chất lượng của hệ thống giúp mô hình đó được sử dụng trong sản xuất.

Chiến lược này hàm ý gì đối với ngành công nghệ

Bài phát biểu của NVIDIA mô tả một tầm nhìn về AI ngày càng ít bị phân mảnh. Chip, phần mềm, các mô hình mở, toolchain và hạ tầng mạng được coi là các thành phần của một kiến trúc công nghiệp thống nhất.

Đối với các nhà sản xuất phần cứng, điều này nâng ngưỡng độ phức tạp của sự cạnh tranh. Không còn đủ để chỉ thiết kế những linh kiện xuất sắc. Cần đưa chúng vào một hệ sinh thái nhất quán. Còn đối với các nhà phát triển phần mềm, điều này có nghĩa là làm việc ngày càng sát hơn với các ràng buộc và cơ hội của tầng hạ tầng.

Cuối cùng, đối với cộng đồng AI, các dự án như Nemotron cho thấy phát triển mô hình mở (open model development) cũng có thể đảm nhiệm một vai trò mang tính chiến lược trong việc định hướng công nghệ.

Tuy nhiên, vẫn còn một giới hạn về mặt thông tin. Bài phát biểu không cung cấp dữ liệu định lượng về hiệu năng, roadmap hay tình trạng tiến triển của các dự án được nhắc đến. Ngoài ra, cũng không có các ý kiến độc lập hay các lời phê bình từ bên ngoài. Cần lưu ý thêm rằng tên của hội nghị xuất hiện không thống nhất giữa Humax X và HUMANX.

Tóm lại

NVIDIA khẳng định rằng việc thiết kế phần cứng cho AI không có nghĩa là đuổi theo phần mềm. Đó là sự đồng tiến hoá với phần mềm xuyên suốt toàn bộ ngăn xếp công nghệ.

Theo bài phát biểu, chiến lược này dựa trên ba trụ cột: đồng thiết kế, lựa chọn tập trung các ưu tiên và sử dụng các dự án mã nguồn mở như Nemotron để đi trước các xu hướng.

Thông điệp cuối cùng rất rõ ràng: trong AI, giá trị không chỉ phụ thuộc vào chip hoặc mô hình, mà phụ thuộc vào toàn bộ hệ thống kết nối phần cứng, phần mềm và triển khai (deployment) ở quy mô lớn.