Nvidia Vera ra mắt tham vọng lật đổ Intel và AMD ở trung tâm dữ liệu bằng CPU 88 nhân tùy biến cho kỷ nguyên AI

Sau nhiều năm thống trị mảng GPU tăng tốc AI, Nvidia đang mở mặt trận mới với Vera, bộ xử lý trung tâm (CPU) đầu tiên do hãng tự thiết kế sâu ở cấp lõi xử lý. Khác với Grace trước đây vốn dựa nhiều vào các nhân Arm có sẵn, Vera được định vị là một nền tảng CPU độc lập, không bắt buộc phải đi kèm GPU Nvidia. Điều này cho thấy tham vọng rõ ràng của hãng trong việc cạnh tranh trực tiếp với Intel Xeon và AMD Epyc tại các trung tâm dữ liệu quy mô lớn. Một loạt nhà cung cấp đám mây như Alibaba, ByteDance, Meta, Oracle, CoreWeave, Lambda, Nebius và NScale đã lên kế hoạch triển khai con chip này.

Vera sở hữu 88 nhân tùy biến tương thích kiến trúc Armv9.2, hỗ trợ 176 luồng xử lý. Trong điện toán, “luồng” là đơn vị công việc mà CPU có thể xử lý song song; càng nhiều luồng, chip càng có lợi thế khi chạy tác vụ phân tán hoặc đa nhiệm nặng. Điểm gây chú ý lớn hơn là bộ nhớ LPDDR5X tối đa 1,5 TB trên một socket. LPDDR5X là loại RAM tiết kiệm điện, thường thấy trên laptop cao cấp và thiết bị di động, nhưng Nvidia đã đưa nó vào máy chủ để giảm điện năng tiêu thụ. Ở cấu hình hai socket, còn gọi là Vera CPU Superchip, hệ thống đạt 176 nhân, 352 luồng và tới 3 TB bộ nhớ.

Điểm khác biệt lớn của Vera nằm ở cách đóng gói silicon. Trong khi AMD phổ biến mô hình chiplet, tức chia CPU thành nhiều khuôn chip nhỏ để tăng hiệu suất sản xuất, Nvidia lại chọn một die tính toán nguyên khối, hay còn gọi là monolithic compute die, chứa toàn bộ 88 nhân trên cùng một mảnh silicon. Theo Nvidia, cách làm này giúp giảm độ trễ giữa các nhân và tăng băng thông giao tiếp nội bộ. Bao quanh khối tính toán là các chiplet chuyên trách điều khiển bộ nhớ LPDDR5X và kết nối I/O. I/O, viết tắt của input/output, là phần giao tiếp giữa CPU với thiết bị ngoại vi như ổ lưu trữ, card mạng hay bộ nhớ mở rộng.

Trái tim của Vera là Olympus, lõi CPU Arm tùy biến đầu tiên của Nvidia. Theo tài liệu kỹ thuật, Olympus được tối ưu cho hai nhóm tác vụ chính: làm “head node” điều phối GPU trong các hệ thống AI lớn, và chạy AI agent. AI agent là các tác nhân phần mềm có thể tự thực hiện chuỗi hành động như gọi công cụ, viết mã, truy vấn dữ liệu hay điều phối quy trình, thay vì chỉ trả lời như mô hình ngôn ngữ lớn (LLM). Nvidia cho rằng nhiều AI agent thực chất chạy trên CPU nhiều hơn GPU, đặc biệt ở các bước điều phối, thực thi script hoặc quản lý container.

Một trong những thay đổi đáng chú ý nhất trên Olympus là bộ dự đoán nhánh kiểu neural branch predictor. Dự đoán nhánh là kỹ thuật CPU đoán trước đường đi tiếp theo của chương trình để thực thi sớm, từ đó giảm thời gian chờ. Nếu dự đoán sai, CPU phải quay lại và mất hiệu năng. Nvidia nói bộ dự đoán mới có thể theo dõi đồng thời hai nhánh lệnh, giúp giảm xác suất đoán sai trong những khối mã có nhiều điều kiện rẽ nhánh, chẳng hạn script Python do trợ lý AI sinh ra động. Đây là chi tiết quan trọng vì nhiều ứng dụng AI hiện đại không chỉ cần sức mạnh tính toán thô, mà còn cần CPU xử lý nhanh các luồng lệnh phức tạp và khó đoán.

Ngoài dự đoán nhánh, Olympus còn được bổ sung các kỹ thuật ít xuất hiện trong truyền thông phổ thông như memory renaming và value prediction. Memory renaming có thể hiểu là cơ chế giúp CPU xử lý trước các phụ thuộc dữ liệu giữa lệnh ghi và lệnh đọc, giảm nguy cơ “kẹt đường ống” xử lý. Value prediction là kỹ thuật dự đoán trước giá trị dữ liệu sắp được tạo ra, cho phép các lệnh phụ thuộc tiếp tục chạy tạm thời rồi xác minh độ đúng sau đó. Cả hai đều nhằm tăng IPC, tức số lệnh thực thi trong mỗi chu kỳ xung nhịp, một thước đo hiệu quả thực tế của vi kiến trúc CPU.

Olympus hỗ trợ một dạng đa luồng đồng thời, thường gọi là SMT, nhưng Nvidia không triển khai theo kiểu truyền thống như Intel Hyper-Threading. SMT, hay simultaneous multithreading, là kỹ thuật cho phép một nhân CPU xử lý nhiều luồng để tận dụng các đơn vị thực thi đang rảnh. Nvidia gọi cách làm của mình là spatial multithreading, tức “đa luồng theo không gian”. Thay vì hai luồng cùng tranh tài nguyên trong một nhân, Olympus có xu hướng tách một nhân lớn thành hai nhân nhỏ hơn với mức chia sẻ tài nguyên khác biệt. Cách tiếp cận này được cho là phù hợp với môi trường container, nơi một phần tài nguyên chạy ứng dụng chính, phần còn lại lo runtime, mạng và lưu trữ.

Để 88 nhân không trở thành một đám đông chen chúc, Nvidia xây dựng SCF thế hệ hai, viết tắt của scalable coherency fabric. Đây là mạng liên kết nhất quán bộ nhớ bên trong chip, bảo đảm các nhân và bộ đệm cache luôn nhìn thấy dữ liệu theo trạng thái đồng bộ. SCF trên Vera đạt băng thông cắt ngang 3,4 TB/giây, đóng vai trò như “siêu xa lộ” nối các nhân, bộ nhớ đệm và bộ điều khiển RAM. Hệ thống bộ đệm cấp hệ thống, gọi là SLC (system level cache), dung lượng 164 MB cũng được phân mảnh dọc theo fabric này thay vì gom thành một khối duy nhất.

Vera dùng 8 bộ điều khiển bộ nhớ LPDDR5X và các mô-đun SOCAMM2, đạt tổng băng thông khoảng 1,2 TB/giây trên mỗi chip. Băng thông bộ nhớ là lượng dữ liệu có thể di chuyển giữa RAM và CPU trong một giây; với khối lượng AI và phân tích dữ liệu lớn, đây là chỉ số cực kỳ quan trọng. Nvidia nhấn mạnh LPDDR5X tiêu thụ điện thấp hơn nhiều so với RDIMM, loại RAM máy chủ truyền thống. Theo hãng, dưới tải liên tục, phần bộ nhớ của Vera chỉ tiêu thụ khoảng 30 đến 40 watt, so với 100 đến 200 watt trên nhiều nền tảng máy chủ dùng DIMM chuẩn. Đây có thể là lợi thế lớn trong các trung tâm dữ liệu đang bị áp lực bởi chi phí điện và làm mát.

Không chỉ mạnh ở tính toán và bộ nhớ, Vera còn được Nvidia nhồi nhét nhiều công nghệ kết nối mới. Chip hỗ trợ PCIe 6.4, chuẩn giao tiếp tốc độ cao dùng để kết nối card mạng, SSD và các thiết bị tăng tốc khác. Với PCIe 6.x, băng thông mỗi lane tăng gấp đôi so với PCIe 5.0. Đi kèm là CXL 3.1, viết tắt của Compute Express Link, một chuẩn mở rộng cho phép chia sẻ bộ nhớ và xây dựng “fabric” kết nối tài nguyên giữa nhiều hệ thống. Điều này mở đường cho các thiết bị bộ nhớ dùng chung qua mạng, tức nhiều máy chủ có thể truy cập cùng một vùng RAM mở rộng. Cuối cùng là NVLink-C2C, liên kết chip-to-chip độc quyền của Nvidia, cho phép hai chip Vera giao tiếp với nhau ở mức 1,8 TB/giây hai chiều, giảm mạnh nút thắt thường thấy ở hệ thống hai socket.

Trong cấu hình tham chiếu cho AI agent, Nvidia cho biết một rack làm mát chất lỏng có thể chứa tới 128 Vera CPU Superchip, tương đương 256 CPU, 22.528 nhân xử lý và 384 TB bộ nhớ. Rack là tủ máy chủ tiêu chuẩn trong trung tâm dữ liệu, còn làm mát chất lỏng là phương pháp dùng chất lỏng dẫn nhiệt để giải nhiệt hiệu quả hơn quạt gió truyền thống. Cấu hình này cho thấy Nvidia không chỉ muốn bán chip đơn lẻ, mà còn đang định hình cả kiến trúc hạ tầng cho thế hệ dịch vụ AI tự động hóa quy mô lớn.

Nvidia tuyên bố Vera cho hiệu năng trên mỗi nhân cao hơn 1,8 lần so với AMD Epyc 9755 trong các bài thử đại diện cho tác vụ AI agent, và nhanh hơn tới 2,6 lần ở bài toán duyệt đồ thị. Dù vậy, giới quan sát vẫn tỏ ra thận trọng vì benchmark CPU rất dễ bị chọn lọc theo hướng có lợi. Lợi thế lớn nhất của Vera hiện chưa chắc nằm ở việc thắng tuyệt đối mọi bài kiểm tra, mà ở chỗ nó giải quyết đúng các điểm đau của hạ tầng AI hiện đại: độ trễ giữa nhân thấp, băng thông bộ nhớ cao, điện năng RAM thấp, và kết nối cực nhanh với GPU cũng như thiết bị ngoại vi.

Vera cho thấy Nvidia không còn hài lòng với vai trò chỉ cung cấp GPU cho cơn sốt AI. Hãng đang tiến tới kiểm soát toàn bộ ngăn xếp hạ tầng, từ CPU, GPU, liên kết nội bộ, bộ nhớ đến thiết kế rack tham chiếu. Trong bối cảnh AMD chuẩn bị tung Venice và Intel tiếp tục đẩy mạnh Xeon thế hệ mới, thị trường CPU máy chủ sắp bước vào giai đoạn cạnh tranh khốc liệt hơn nhiều. Nếu Vera chứng minh được hiệu quả trên phần cứng thương mại, đây có thể là bước ngoặt khiến Nvidia trở thành thế lực thực sự trong mảng CPU trung tâm dữ liệu, chứ không chỉ là ông vua GPU của kỷ nguyên AI.