NVIDIA, Rebellions, SK Telecom hợp tác xây hạ tầng AI chủ quyền Hàn Quốc

Rebellions dự định sẽ kết nối NPU Rebel R200 vào nền tảng của NVIDIA thông qua NVLink Fusion và phát triển hệ thống theo quy mô rack dựa trên thiết kế tham chiếu MGX của NVIDIA. Công ty này mô tả R200 là NPU thế hệ kế tiếp được tối ưu hóa cho suy luận độ trễ thấp và hiệu suất cao, có khả năng chạy các mô hình tiên tiến nhất, bao gồm cả các mô hình Mixture-of-Experts (MoE) có hàng nghìn tỷ tham số. Rebellions cho biết NVLink Fusion sẽ kết nối các NPU R200 trong cùng một rack với mạng lưới scale-up NVLink của NVIDIA, trong khi các tham chiếu rack MGX sẽ hỗ trợ thiết kế hệ thống.

SK Telecom sẽ xây dựng các hệ thống tổng hợp trong các trung tâm dữ liệu AI của mình, tận dụng kinh nghiệm trong việc xây dựng và vận hành trung tâm dữ liệu AI cũng như các mô hình nền tảng và dịch vụ AI công khai của riêng mình. Ba công ty mô tả việc sử dụng kiến trúc rack MGX để GPU và hệ thống NPU có thể chia sẻ không gian rack, điện và các yếu tố thiết kế làm mát. Giám đốc điều hành SK Telecom Jung Jae-heon mô tả dự án này là sự kết hợp giữa công nghệ hạ tầng AI toàn cầu và bán dẫn AI trong nước nhằm khẳng định tiềm năng của hạ tầng AI chủ quyền thế hệ mới.

NVIDIA mô tả NVLink Fusion là cách để mở rộng nền tảng AI mở của mình sang các XPU tùy chỉnh, cho phép các nhà sản xuất bán dẫn gắn chip được thiết kế riêng vào mạng lưới scale-up băng thông cao và độ trễ thấp cũng như hệ sinh thái hạ tầng của NVIDIA. Ba công ty cho rằng cách tiếp cận này có thể nâng cao hiệu suất, giảm thiểu rủi ro triển khai và rút ngắn thời gian ra thị trường bằng cách tích hợp ASIC tùy chỉnh với nền tảng AI Factory của NVIDIA. Chủ tịch và CEO NVIDIA Jensen Huang nhận xét rằng "Hàn Quốc có tài năng, công nghệ và năng lực công nghiệp để trở thành một nhà lãnh đạo toàn cầu về AI", và thêm rằng AI chủ quyền sẽ cho phép các quốc gia biến ngôn ngữ, văn hóa và chuyên môn địa phương thành trí tuệ, đồng thời cho phép các công ty bán dẫn Hàn Quốc kết nối ASIC tùy chỉnh vào nền tảng của NVIDIA thông qua NVLink Fusion.

Về kỹ thuật điều phối, NVIDIA, Rebellions và SK Telecom cho biết họ sẽ phát triển suy luận phân tán, trong đó mỗi bước tạo ra câu trả lời AI sẽ được giao cho kiến trúc xử lý phù hợp nhất. Kế hoạch này bao gồm cấu hình GPU của NVIDIA để xử lý công việc prefill và NPUs của Rebellions để thực hiện các nhiệm vụ decode nhằm tăng hiệu suất suy luận và hiệu quả năng lượng. Phó chủ tịch và CEO Rebellions Park Seong-hyun mô tả thông báo này là "một bước ngoặt" kết nối bán dẫn AI và mô hình Hàn Quốc với công nghệ hệ thống toàn cầu; ông nói rằng việc kết hợp chip tùy chỉnh và thiết kế hệ thống của Rebellions với NVLink Fusion và khả năng mô hình cũng như trung tâm dữ liệu của SK Telecom sẽ cho phép suy luận mô hình lớn quy mô cao với độ trễ thấp và hiệu quả cao.

Chính phủ Hàn Quốc cũng bình luận: Phó Bộ trưởng MSIT Ryu Je-myeong cho thấy sự hợp tác này tạo ra cơ hội cho các NPU được phát triển trong nước để tham gia vào thị trường tính toán AI toàn cầu thông qua việc kết nối với một nhà cung cấp AI hàng đầu thông qua NVLink Fusion. Chính phủ tuyên bố sẽ hỗ trợ tích cực dự án này để giúp nó mang lại kết quả cụ thể và lên kế hoạch mở rộng hợp tác với NVIDIA trên các lĩnh vực bao gồm AI vật lý và đảm bảo nguồn cung GPU. Ngoài ra, các công ty lưu ý rằng việc triển khai hệ thống R200 của Rebellions có thể bắt đầu vào năm 2028.