AMD tung máy trạm AI mini giá 4.000 USD, nhắm thẳng nhu cầu chạy mô hình ngay trên máy

AMD vừa công bố mẫu máy trạm AI cỡ nhỏ Ryzen AI Halo với giá khởi điểm 3.999 USD, dự kiến cho đặt trước từ tháng tới. Đây là câu trả lời trực tiếp dành cho DGX Spark của Nvidia, dòng máy mini workstation tối ưu cho phát triển AI cục bộ. Theo AMD, thiết bị này không chỉ là một chiếc mini PC đắt tiền, mà là một môi trường phát triển đã được “đóng gói sẵn” để lập trình viên chạy mô hình AI ngay trên máy thay vì phụ thuộc hoàn toàn vào cloud API, tức các giao diện dịch vụ AI chạy trên đám mây và tính phí theo mức sử dụng. Hãng thậm chí còn đưa ra thông điệp khá táo bạo: nếu nhà phát triển dành khoảng 8 giờ mỗi ngày cho việc “vibe coding” – cách nói phổ biến chỉ kiểu lập trình dựa nhiều vào AI hỗ trợ sinh mã – thì hệ thống có thể giúp tiết kiệm khoảng 750 USD mỗi tháng so với việc gọi mô hình từ đám mây.

Ryzen AI Halo có kích thước chỉ 150 x 150 x 43 mm, nhưng bên trong là APU Ryzen AI Max+ 395, tên mã Strix Halo. APU là bộ xử lý tích hợp CPU và GPU trong cùng một chip, giúp tối ưu không gian và băng thông bộ nhớ. Con chip này đi kèm 128 GB LPDDR5x 8000 MT/s, loại RAM băng thông cao thường thấy ở các hệ thống tối ưu cho tác vụ nặng. Bộ nhớ này được chia sẻ cho 16 nhân CPU Zen 5 và 40 đơn vị tính toán GPU RDNA 3.5, đạt băng thông tới 256 GB/s. Theo AMD, cấu hình đó đủ để chạy cục bộ các mô hình có quy mô tới 200 tỷ tham số ở mức 4-bit precision. Tham số là các giá trị mà mô hình AI học được trong quá trình huấn luyện; số tham số càng lớn thì mô hình thường càng mạnh, nhưng cũng càng ngốn bộ nhớ.

Phần lớn sức mạnh tính toán của hệ thống đến từ GPU tích hợp, với mức khoảng 56 teraFLOPS ở độ chính xác 16-bit. TeraFLOPS là đơn vị đo số nghìn tỷ phép tính dấu chấm động mỗi giây, thường dùng để mô tả sức mạnh xử lý của chip. Tuy nhiên, nếu so trực diện với DGX Spark của Nvidia, con số này vẫn thấp hơn đáng kể. Một khác biệt quan trọng là Strix Halo không hỗ trợ phần cứng cho FP8 hay FP4, tức các định dạng số dấu chấm động độ chính xác thấp đang ngày càng phổ biến trong AI vì giúp tăng tốc suy luận và tiết kiệm bộ nhớ. Trong khi đó, nền tảng Blackwell GB10 của Nvidia lại hỗ trợ mạnh các kiểu dữ liệu này, đồng thời có thể tận dụng kỹ thuật sparsity 4:2, tức dạng tối ưu hóa bỏ bớt các giá trị ít quan trọng để tăng thông lượng xử lý.

Dù thua về sức mạnh tính toán thuần, AMD cho biết Ryzen AI Halo lại có thể tạo token nhanh hơn DGX Spark từ 4 đến 14% trong một số bài kiểm tra suy luận LLM. Token là đơn vị văn bản nhỏ mà mô hình ngôn ngữ lớn, hay LLM, dùng để đọc và sinh nội dung. Suy luận LLM là giai đoạn mô hình tạo ra câu trả lời sau khi đã được huấn luyện xong. Điểm đáng chú ý ở đây là tốc độ sinh token không phụ thuộc hoàn toàn vào teraFLOPS, mà thường bị chi phối mạnh bởi băng thông bộ nhớ hiệu dụng. Nói cách khác, với tác vụ chatbot hoặc sinh văn bản, khả năng “đẩy dữ liệu” trong bộ nhớ đôi khi quan trọng hơn sức mạnh tính toán thô. Tuy nhiên, ở bước prompt processing – tức giai đoạn mô hình tiếp nhận và xử lý phần nhập liệu ban đầu trước khi bắt đầu trả lời – Nvidia vẫn có lợi thế lớn nhờ tensor core mạnh hơn, có thể nhanh hơn từ 2 đến 3 lần trong một số trường hợp, đặc biệt với prompt dài.

Một điểm AMD nhấn mạnh là Ryzen AI Halo không chỉ có CPU và GPU, mà còn tích hợp NPU XDNA 2 đạt 50 TOPS. NPU, hay neural processing unit, là bộ xử lý chuyên dụng cho các tác vụ AI; còn TOPS là đơn vị đo nghìn tỷ phép toán mỗi giây, thường được dùng để quảng bá hiệu năng AI trên thiết bị cá nhân. Dù vậy, hiệu quả thực tế của NPU còn phụ thuộc vào việc phần mềm có hỗ trợ hay không. Hiện nhiều ứng dụng sáng tạo nội dung đã bắt đầu tận dụng NPU, nhưng số engine suy luận AI tạo sinh khai thác tốt phần cứng này vẫn còn hạn chế. Bên cạnh đó, Ryzen AI Halo có một lợi thế rõ ràng khác: đây là hệ thống x86 tiêu chuẩn, nghĩa là người dùng có thể chạy Windows hoặc các bản Linux quen thuộc. Điều này đặc biệt quan trọng với nhà phát triển đang xây ứng dụng cho hệ sinh thái AI PC của Microsoft, nơi NPU được dùng để tăng tốc các tính năng AI ngay trên máy.

Nếu xét về khả năng mở rộng, mẫu máy của AMD tỏ ra lép vế hơn. DGX Spark của Nvidia nổi bật với card mạng ConnectX-7 tốc độ 200 Gbps, cho phép ghép cụm nhiều hệ thống để xử lý các tác vụ lớn hơn. Việc “clustering” này rất quan trọng trong AI khi một máy đơn lẻ không đủ bộ nhớ hoặc hiệu năng. Trong khi đó, Ryzen AI Halo chỉ có một cổng mạng 10 Gbps, đủ hữu ích để tải nhanh các tệp mô hình dung lượng lớn nhưng chưa thật sự ấn tượng ở góc độ mở rộng hạ tầng. Về lý thuyết, máy có thể hỗ trợ kết nối tốc độ cao qua USB4, và nếu triển khai được RDMA – công nghệ cho phép truy cập bộ nhớ từ xa với độ trễ thấp, thường dùng trong hệ thống hiệu năng cao – thì khả năng liên kết máy có thể được cải thiện. Tuy nhiên, AMD chưa xác nhận rõ đây có phải kịch bản được hỗ trợ chính thức hay không.

Giá trị lớn nhất của Ryzen AI Halo có thể không nằm ở phần cứng, mà ở bộ công cụ phần mềm đi kèm. Phát triển AI hiện nay thường bị làm khó bởi ma trận phụ thuộc gồm driver, ROCm, HIP, SYCL, CUDA, PyTorch, TensorFlow và JAX. Đây là các nền tảng, thư viện hoặc lớp trung gian phục vụ huấn luyện và suy luận AI trên nhiều loại phần cứng khác nhau. Chỉ riêng việc ghép đúng phiên bản để mọi thứ chạy ổn định đã là một bài toán đau đầu với nhiều nhóm kỹ thuật. AMD vì thế chọn cách cung cấp các “playbook” đã được xác thực sẵn cho những kịch bản phổ biến. Playbook ở đây có thể hiểu là bộ hướng dẫn triển khai chuẩn, gồm cấu hình phần mềm, thư viện và quy trình tối ưu cho một workload cụ thể. Khi mở bán, máy sẽ có sẵn 5 playbook cài trước, thêm 10 bộ khác cung cấp trực tuyến và tiếp tục cập nhật hàng tháng. AMD cũng hứa hẹn quyền truy cập chương trình dành cho nhà phát triển, tín dụng đám mây và các playbook độc quyền.

Không dừng ở cấu hình 128 GB, AMD cho biết họ đang phát triển thêm phiên bản Ryzen AI Halo với 192 GB bộ nhớ hợp nhất. Bộ nhớ hợp nhất, hay unified memory, là kiến trúc trong đó CPU và GPU cùng truy cập một vùng RAM chung, giúp giảm độ trễ sao chép dữ liệu và đặc biệt hữu ích cho AI cục bộ. Phiên bản mới sẽ dùng Ryzen AI Max+ 495, một APU được làm mới với xung nhịp CPU, GPU và NPU cao hơn đôi chút so với thế hệ hiện tại. Dù thay đổi không mang tính cách mạng, việc nâng lên 192 GB bộ nhớ sẽ mở đường cho những mô hình lớn hơn, phức tạp hơn chạy trực tiếp trên máy. Đổi lại, mức giá chắc chắn sẽ còn cao hơn ngưỡng 3.999 USD hiện tại. Với xu hướng doanh nghiệp và lập trình viên ngày càng muốn đưa AI về chạy tại chỗ để kiểm soát chi phí, dữ liệu và độ trễ, Ryzen AI Halo đang được AMD đặt cược như một lựa chọn nghiêm túc trong phân khúc workstation AI mini.