Nvidia tăng tốc tham vọng CPU với hệ thống rack mới chứa tới 256 bộ xử lý Vera

Tại sự kiện GTC, Nvidia đã giới thiệu thế hệ rack làm mát bằng chất lỏng mới, nhưng điểm đáng chú ý lần này không phải là GPU mà là 256 CPU Vera do hãng tự thiết kế. Động thái này cho thấy Nvidia đang tiến sâu hơn vào thị trường CPU máy chủ, nơi Intel và AMD từ lâu giữ vai trò thống trị. Theo Nvidia, các hệ thống AI thế hệ mới, đặc biệt là “agentic AI” – tức các tác nhân AI có thể tự lập kế hoạch, gọi công cụ, truy vấn dữ liệu và thực thi tác vụ nhiều bước – không thể chỉ dựa vào GPU. GPU rất mạnh trong xử lý song song, nhưng CPU vẫn là thành phần then chốt để xử lý các công việc như gọi công cụ, chạy truy vấn SQL và biên dịch mã.

Nvidia cho rằng khi AI chuyển từ mô hình trả lời đơn giản sang các hệ thống tác nhân có khả năng hành động, CPU dễ trở thành nút thắt cổ chai nếu không đủ nhanh. Trong các quy trình như reinforcement learning – một kỹ thuật huấn luyện để mô hình học thông qua thưởng và phạt – hay khi triển khai dịch vụ AI tác nhân trong trung tâm dữ liệu, CPU đóng vai trò xử lý phần “sandbox execution”. Đây là môi trường thực thi cô lập, giúp AI chạy mã, thử nghiệm tác vụ hoặc truy cập công cụ bên ngoài một cách an toàn. Nếu CPU không đủ băng thông bộ nhớ hoặc hiệu năng trên từng nhân không cao, toàn bộ hệ thống AI có thể bị chậm lại dù GPU rất mạnh.

Vera là CPU mới nhất của Nvidia, kế nhiệm hướng đi mà hãng đã mở ra với Grace cách đây gần 5 năm. Mỗi chip Vera được trang bị 88 nhân Olympus Arm tùy biến. Arm là kiến trúc vi xử lý nổi tiếng nhờ hiệu quả điện năng, thường thấy trong điện thoại và ngày càng phổ biến ở máy chủ. Nvidia cho biết Vera hỗ trợ simultaneous multithreading, tức một nhân CPU có thể xử lý nhiều luồng tác vụ cùng lúc để tận dụng tài nguyên tốt hơn. Ngoài ra, chip còn có bus bộ nhớ rộng hơn và kết nối chip-to-chip nhanh hơn, giúp dữ liệu di chuyển hiệu quả giữa CPU với CPU hoặc giữa CPU với GPU.

Một trong những điểm kỹ thuật đáng chú ý nhất trên Vera là nhân Olympus Arm mới với pipeline giải mã 10-wide, nghĩa là CPU có thể giải mã nhiều lệnh hơn trong mỗi chu kỳ xung nhịp. Nvidia cũng nhấn mạnh đến “neural branch predictor” – bộ dự đoán nhánh dùng kỹ thuật lấy cảm hứng từ AI để đoán trước đường đi tiếp theo của chương trình. Trong CPU hiện đại, branch prediction rất quan trọng vì bộ xử lý luôn cố đoán lệnh nào sẽ được chạy kế tiếp để thực thi trước, giảm thời gian chờ. Nvidia nói Vera có thể thực hiện hai dự đoán nhánh mỗi chu kỳ, từ đó giảm nguy cơ đoán sai và cải thiện hiệu năng thực tế.

Nvidia tuyên bố Vera có thể cung cấp băng thông bộ nhớ cao gấp 3 lần và hiệu năng trên mỗi nhân cao hơn 1,5 lần so với các CPU x86 đương thời. x86 là kiến trúc CPU truyền thống đang được Intel và AMD sử dụng rộng rãi trong máy chủ. Một yếu tố giúp Vera nổi bật là việc dùng LPDDR5X thay vì RDIMM thông thường. LPDDR5X là loại bộ nhớ tiết kiệm điện, thường gặp trên laptop mỏng nhẹ, nhưng Nvidia mang nó vào máy chủ để tăng hiệu quả và mật độ. Mỗi CPU Vera có thể đi kèm tối đa 1,5 TB bộ nhớ LPDDR5 SOCAMM với băng thông tới 1,2 TB/giây cho mỗi socket. Socket ở đây có thể hiểu là vị trí gắn một CPU trên bo mạch chủ máy chủ. Con số này vượt đáng kể mức băng thông mà các dòng CPU máy chủ cao cấp hiện nay của Intel và AMD đang cung cấp.

Bên cạnh bộ nhớ, Vera còn được trang bị NVLink-C2C nhanh hơn. Đây là công nghệ kết nối chip-to-chip của Nvidia, cho phép CPU và GPU trao đổi dữ liệu trực tiếp với độ trễ thấp và tốc độ rất cao. Nvidia cho biết liên kết này đạt tới 900 GB/giây theo mỗi hướng, tương đương 1,8 TB/giây băng thông hai chiều. Với các hệ thống agentic AI thường xuyên phải lấy dữ liệu, xử lý ngữ cảnh và thực thi mã, việc chuyển dữ liệu nhanh giữa bộ nhớ, CPU và GPU là yếu tố then chốt để tránh nghẽn cổ chai.

Trước đây, CPU của Nvidia chủ yếu xuất hiện như một phần trong các hệ thống kết hợp với GPU, chẳng hạn Grace-Hopper hay Grace-Blackwell, hoặc trong các cụm HPC. HPC, viết tắt của high-performance computing, là điện toán hiệu năng cao dành cho mô phỏng khoa học và các khối lượng công việc cực lớn. Tuy nhiên với Vera, Nvidia đang đi xa hơn: hãng sẽ bán CPU này như một lựa chọn thay thế trực tiếp cho chip x86 của Intel và AMD. Đáng chú ý, các hệ thống NVL8 HGX – vốn thường dùng CPU Intel – sẽ có phiên bản dùng Vera trong thế hệ Rubin sắp tới.

Để phục vụ triển khai quy mô lớn, Nvidia cũng công bố thiết kế tham chiếu MGX mới, có thể đóng gói tới 256 CPU Vera cùng 64 DPU BlueField-4 trong một rack làm mát bằng chất lỏng. DPU, hay data processing unit, là bộ xử lý chuyên trách các tác vụ hạ tầng như mạng, lưu trữ và bảo mật, giúp giảm tải cho CPU chính. Theo Nvidia, một rack như vậy có thể cung cấp hơn 22.500 lõi CPU và 400 TB bộ nhớ, đủ cho các hệ thống AI tác nhân truy xuất dữ liệu và thực thi mã ở quy mô lớn trong trung tâm dữ liệu.

Vera sẽ có mặt ở cả cấu hình một socket và hai socket thông qua các nhà sản xuất ODM và OEM như Foxconn, Wistron, Dell Technologies, Lenovo và HPE. ODM là các hãng thiết kế, sản xuất phần cứng cho thương hiệu khác, còn OEM là các nhà sản xuất thiết bị gốc bán ra thị trường dưới tên riêng của họ. Việc có sự tham gia sớm của các đối tác phần cứng lớn cho thấy Nvidia không chỉ thử nghiệm công nghệ mà đang chuẩn bị bước vào cuộc cạnh tranh thương mại thực sự trên thị trường CPU máy chủ.

Có lẽ tín hiệu mạnh nhất cho tham vọng CPU của Nvidia là danh sách khách hàng đã cam kết triển khai Vera ngay trong năm nay. Theo hãng, Alibaba, ByteDance, Meta, Oracle, CoreWeave, Lambda, Nebius và NScale đều có kế hoạch đưa chip này vào trung tâm dữ liệu của họ. Trước đó, Meta cũng từng tiết lộ ý định triển khai rộng rãi CPU Grace độc lập. Nếu Vera thực sự đáp ứng được các tuyên bố về hiệu năng, Nvidia có thể không chỉ là công ty dẫn đầu GPU cho AI, mà còn trở thành đối thủ đáng gờm trong thị trường CPU máy chủ dành cho kỷ nguyên AI tác nhân.