Nvidia muốn rút thời gian triển khai trung tâm dữ liệu AI xuống hai tuần bằng mô-đun lắp sẵn

Thay vì vận chuyển từng hệ thống rồi lắp ráp tại chỗ, Nvidia muốn đưa đến khách hàng những mô-đun trung tâm dữ liệu đã được tích hợp sẵn. Tại GTC Berlin tuần này, hãng giới thiệu DSX pod, các khối dạng container chứa đầy đủ thiết bị tính toán, kết nối nội bộ, hệ thống điện và đường ống làm mát. Nvidia cùng các đối tác dự kiến bắt đầu cung cấp những mô-đun sử dụng hệ thống tủ máy Vera Rubin từ đầu năm 2027, nhằm đẩy nhanh việc bổ sung năng lực hạ tầng cho làn sóng trí tuệ nhân tạo.

Mỗi DSX pod nặng khoảng 28 tấn, chứa bảy tủ máy Vera Rubin NVL72 với tổng cộng 504 GPU và 252 CPU Vera. GPU là bộ xử lý có khả năng thực hiện nhiều phép tính song song, giữ vai trò chủ lực trong huấn luyện và vận hành mô hình AI; CPU là bộ xử lý trung tâm, đảm nhiệm các tác vụ xử lý và điều phối của hệ thống. Các mô-đun được thiết kế cho những “nhà máy AI” — cách ngành công nghệ gọi hạ tầng tính toán quy mô lớn chuyên phục vụ hoạt động AI.

Theo Nvidia, DSX pod có thể rút thời gian triển khai từ sáu tháng xuống chỉ còn hai tuần. Cơ sở cho tuyên bố này là việc kiểm tra từng đầu nối, dây cáp và linh kiện ngay tại nhà máy, giúp phát hiện lỗi trước khi thiết bị đến tay khách hàng. Tuy nhiên, đây là mức thời gian do hãng công bố, không có nghĩa một trung tâm dữ liệu có thể được xây dựng từ con số không trong hai tuần. Địa điểm tiếp nhận vẫn phải được chuẩn bị trước, với nguồn điện, mạng và hạ tầng làm mát phù hợp để kết nối mô-đun.

HPE, Dell, Schneider Electric cùng các đối tác khác sẽ tham gia xây dựng DSX pod. Nvidia cho biết khách hàng có thể tùy chọn nhà cung cấp thiết bị, chẳng hạn lựa chọn giữa HPE và Dell hoặc giữa Eaton và Schneider Electric. Khi cần thêm năng lực tính toán, doanh nghiệp có thể bổ sung mô-đun thay vì lắp đặt riêng lẻ toàn bộ hệ thống tại địa điểm triển khai. Với Nvidia, cách tiếp cận này cũng là một phần trong nỗ lực xử lý sớm những trở ngại của chuỗi cung ứng, trước khi chúng ảnh hưởng đến doanh thu.

Cũng tại GTC Berlin, Nvidia công bố các thông số DSX mới dành cho trung tâm dữ liệu mà hãng gọi là “không dùng nước”. Thiết kế này sử dụng chất làm mát tuần hoàn trong vòng kín kết hợp bộ giải nhiệt khô — thiết bị thải nhiệt ra không khí — thay cho các tháp giải nhiệt tiêu thụ nhiều nước. Vì vậy, cần phân biệt việc giảm nhu cầu nước cho thải nhiệt với việc loại bỏ hoàn toàn chất lỏng khỏi hệ thống làm mát. Hướng phát triển này tiếp nối những nỗ lực Nvidia đã giới thiệu tại AI Infra Summit hồi đầu năm: tăng hiệu năng trên mỗi đơn vị điện năng và cho phép hạ tải tính toán khi điều kiện lưới điện thay đổi.