Arm lần đầu tung CPU trung tâm dữ liệu mang thương hiệu riêng: chip 136 nhân nhắm thẳng làn sóng AI tác tử

Tại sự kiện ở San Francisco, Arm đã công bố bộ xử lý máy chủ đầu tiên do chính hãng tự phát triển và gắn thương hiệu Arm, thay vì chỉ bán bản quyền kiến trúc hay lõi xử lý như trước đây. Con chip mới mang tên AGI CPU, một cách đặt tên dễ gây chú ý vì AGI thường là viết tắt của “artificial general intelligence”, tức trí tuệ nhân tạo tổng quát. Tuy nhiên, trong thực tế, đây không phải bộ xử lý dùng để trực tiếp chạy các mô hình AI khổng lồ, mà là CPU trung tâm dữ liệu được tối ưu cho kỷ nguyên “agentic AI” — tức các hệ thống AI tác tử có khả năng tự lập kế hoạch, viết mã, gọi công cụ và tự động thực hiện chuỗi nhiệm vụ phức tạp.

Arm nhấn mạnh AGI CPU không nhằm giành vai trò của GPU hay ASIC AI. GPU là bộ xử lý đồ họa nhưng hiện đã trở thành nền tảng chính để huấn luyện và suy luận AI nhờ khả năng xử lý song song cực lớn. Trong khi đó, ASIC AI là chip chuyên dụng được thiết kế cho một nhóm tác vụ AI cụ thể để đạt hiệu năng và hiệu quả điện năng cao hơn. AGI CPU của Arm được định vị ở lớp hạ tầng điều phối: cung cấp năng lực tính toán đa dụng, bộ nhớ và khả năng thực thi mã cho các tác tử AI. Đây là phần việc rất quan trọng khi các hệ thống như OpenClaw hay những framework tác tử mới cần CPU để chạy logic điều khiển, quản lý tiến trình, thao tác dữ liệu và hỗ trợ học tăng cường, tức reinforcement learning — phương pháp huấn luyện trong đó mô hình học thông qua phần thưởng và phản hồi từ môi trường.

Con chip mới của Arm là bộ xử lý công suất 300 watt, tích hợp 136 nhân Neoverse V3. Neoverse là dòng kiến trúc Arm dành riêng cho máy chủ và hạ tầng đám mây, còn V3 là thế hệ lõi mới hướng đến hiệu năng cao trong trung tâm dữ liệu. Xung nhịp tối đa đạt 3,7 GHz, xung cơ bản 3,2 GHz. Chip được chia trên hai die — tức hai miếng silicon trong cùng một gói xử lý — và được sản xuất trên tiến trình 3 nm của TSMC. Tiến trình 3 nm là công nghệ chế tạo bán dẫn tiên tiến, cho phép tăng mật độ transistor để cải thiện hiệu năng và hiệu quả năng lượng. Mỗi nhân đi kèm 2 MB bộ nhớ đệm L2, trong khi toàn hệ thống có thêm 128 MB SLC, viết tắt của system-level cache, tức bộ nhớ đệm cấp hệ thống dùng chung để giảm độ trễ truy cập dữ liệu.

Theo Arm, AGI CPU được phát triển theo hướng “clean sheet design”, nghĩa là thiết kế lại từ đầu thay vì kế thừa quá nhiều thành phần cũ. Hãng chủ động loại bỏ những khối chức năng không phục vụ trực tiếp cho tác vụ mục tiêu nhằm tiết kiệm diện tích die. Đây là điểm khác biệt đáng chú ý so với nhiều CPU truyền thống vốn phải duy trì khả năng tương thích với ứng dụng cũ. Arm cho rằng trong môi trường AI tác tử, điều quan trọng là hiệu năng ổn định, mật độ tính toán cao và khả năng sử dụng tài nguyên gần như tối đa, thay vì gánh thêm các tính năng ít được khai thác. Không những vậy thiết kế này còn được tích hợp vào máy tính biên nhỏ gọn (Edge computing) như các dòng Mini PC, máy tính công nghiệp mini để xử lý các chức năng Vision AI, điều khiển PLC theo thời gian thực

Một lựa chọn kỹ thuật khác của Arm là bỏ qua simultaneous multithreading, hay SMT. Đây là công nghệ cho phép một lõi CPU xử lý nhiều luồng lệnh cùng lúc để tăng mức sử dụng tài nguyên. Nhiều người biết đến khái niệm này qua tên gọi Hyper-Threading của Intel. Arm cho rằng với tải công việc AI tác tử, mô hình một luồng trên mỗi nhân sẽ giúp hiệu năng mở rộng theo số nhân dễ dự đoán hơn, giảm biến động và thuận lợi cho việc phân bổ tác vụ trong các cụm máy chủ lớn.

AGI CPU được trang bị 12 kênh bộ nhớ DDR5, hỗ trợ tốc độ lên tới 8800 MT/s. DDR5 là chuẩn RAM máy chủ thế hệ mới, còn MT/s là đơn vị mega transfers per second, biểu thị số lần truyền dữ liệu mỗi giây. Tổng băng thông bộ nhớ đạt 825 GB/s, tương đương khoảng 6 GB/s cho mỗi nhân. Arm cũng tích hợp bộ điều khiển bộ nhớ và I/O ngay trên cùng die với khối tính toán để giảm độ trễ. Tuy nhiên, cách bố trí này khiến mỗi socket được hệ điều hành nhìn như hai miền NUMA riêng biệt. NUMA, viết tắt của non-uniform memory access, là kiến trúc mà thời gian truy cập bộ nhớ phụ thuộc vào vị trí vật lý của bộ nhớ so với nhân xử lý. Điều này có thể mang lại hiệu năng cao hơn nếu phần mềm được tối ưu tốt, nhưng cũng đòi hỏi hệ điều hành và ứng dụng phân bố dữ liệu hợp lý.

Về kết nối, chip hỗ trợ 96 làn PCIe 6.0 và CXL 3.0. PCIe 6.0 là chuẩn giao tiếp tốc độ cao dùng để kết nối GPU, SSD và card tăng tốc trong máy chủ. CXL, hay Compute Express Link, là chuẩn mở rộng giúp CPU, bộ nhớ và các bộ tăng tốc chia sẻ dữ liệu hiệu quả hơn với độ trễ thấp hơn, đặc biệt quan trọng trong các hệ AI hiện đại nơi nhiều loại chip phải phối hợp chặt chẽ. Việc có CXL 3.0 cho thấy Arm đang nhắm tới các hệ thống mô-đun lớn, nơi CPU không chỉ xử lý tác vụ chung mà còn đóng vai trò “đầu não” điều phối cho các bộ tăng tốc chuyên dụng.

Khách hàng đầu tàu của AGI CPU là Meta, công ty vốn đã sử dụng nhiều CPU Grace của Nvidia dựa trên kiến trúc Arm và cũng có kế hoạch dùng dòng Vera mới của Nvidia. Theo Arm, Meta sẽ triển khai AGI CPU ở quy mô lớn ngay trong năm nay. Để phục vụ các trung tâm dữ liệu AI, Arm cũng đã xác thực hai thiết kế rack theo chuẩn OCP, tức Open Compute Project — sáng kiến mở nhằm chuẩn hóa thiết kế phần cứng cho hạ tầng quy mô lớn. Cấu hình đầu tiên là rack làm mát bằng không khí công suất 36 kW, gồm 30 blade máy tính với tổng cộng 8.160 nhân. Blade là mô-đun máy chủ mỏng, tối ưu mật độ triển khai. Cấu hình thứ hai còn tham vọng hơn: rack làm mát bằng chất lỏng công suất 200 kW, chứa 42 máy chủ tám nút, đạt tổng 45.696 nhân. Con số này cao hơn gấp đôi số nhân trong rack Vera ETL256 của Nvidia, vốn đạt 22.528 nhân.

Dù được tiếp thị xoay quanh AI tác tử, Arm cho biết AGI CPU còn phù hợp cho nhiều vai trò khác trong trung tâm dữ liệu. Chip có thể làm head node — tức nút điều phối trung tâm — cho các bộ tăng tốc tùy biến, hoặc đảm nhận vai trò CPU đa dụng cho hệ thống mạng và lưu trữ. Đây là hướng đi hợp lý vì nhiều hạ tầng AI hiện đại không chỉ cần sức mạnh huấn luyện mô hình mà còn cần lớp điều phối dữ liệu, quản lý truy cập và xử lý tác vụ nền ở quy mô rất lớn. Arm cho biết các đối tác OEM, tức nhà sản xuất thiết bị gốc như Lenovo, đã bắt đầu phát triển hệ thống 19 inch sử dụng bộ xử lý này.

Ngoài Meta, Arm còn nêu tên hàng loạt khách hàng sớm khác gồm OpenAI, SAP, Cerebras, Cloudflare, F5, SK Telecom và Rebellions. Danh sách này trải dài từ công ty AI, doanh nghiệp phần mềm, hạ tầng mạng đến nhà cung cấp đám mây, cho thấy Arm đang muốn biến AGI CPU thành nền tảng máy chủ đa mục đích cho thời đại AI. Trước đây, thị trường CPU Arm cho trung tâm dữ liệu ngoài khối hyperscaler — tức các hãng đám mây siêu quy mô tự thiết kế chip riêng — có khá ít lựa chọn, gần như chỉ có Ampere là cái tên nổi bật. Sự xuất hiện của Arm với chip “chính chủ” có thể làm thay đổi cán cân cạnh tranh trong phân khúc này.

Điểm đáng chú ý nhất không chỉ nằm ở thông số, mà ở việc Arm đang thay đổi mô hình kinh doanh. Từ một công ty chủ yếu sống bằng cấp phép kiến trúc và IP bán dẫn, Arm nay bước sâu hơn vào chuỗi giá trị bằng cách tự tung ra chip máy chủ hoàn chỉnh. Đây là bước đi táo bạo trong bối cảnh thị trường hạ tầng AI đang bùng nổ và các nhà cung cấp đều tìm cách chen chân vào từng lớp của hệ thống, từ CPU, GPU đến kết nối và bộ nhớ. AGI CPU dự kiến lên kệ trong năm nay. Nó có thực sự đưa ngành công nghiệp tiến gần hơn tới “The Singularity” — khái niệm chỉ thời điểm AI vượt xa trí tuệ con người — hay không vẫn còn là câu hỏi bỏ ngỏ. Nhưng ít nhất, Arm đã cho thấy hãng không muốn đứng ngoài chuyến tàu AI thêm nữa.