Ảo hóa GPU bước vào giai đoạn phổ cập: Doanh nghiệp cần hiểu passthrough, vGPU và MIG trước khi triển khai AI

Khối lượng công việc dùng GPU đang lan rộng nhanh chóng ra ngoài các trung tâm nghiên cứu và những nhà cung cấp đám mây quy mô siêu lớn. Từ đội ngũ kỹ thuật, khoa học dữ liệu, y tế đến tài chính, ngày càng nhiều tổ chức triển khai hạ tầng tăng tốc bằng GPU cho suy luận AI, mô phỏng, trực quan hóa và máy tính để bàn ảo. Tuy nhiên, dù phần cứng có vẻ quen thuộc vì card NVIDIA vẫn cắm vào khe máy chủ tiêu chuẩn, lớp phần mềm vận hành phía sau lại phức tạp hơn nhiều. Điểm mấu chốt không chỉ là mua GPU nào, mà là chọn đúng nền tảng để phân bổ, cô lập và quản trị tài nguyên GPU.

Theo nội dung nguồn, ảo hóa GPU hiện xoay quanh ba mô hình chính: PCIe passthrough, NVIDIA vGPU và MIG. Mỗi mô hình đánh đổi khác nhau giữa hiệu năng, khả năng chia sẻ và mức độ cô lập. PCIe passthrough là cách đơn giản nhất về mặt khái niệm: hypervisor, tức lớp phần mềm tạo và quản lý máy ảo, gán trọn một GPU vật lý cho một máy ảo duy nhất. Máy ảo khi đó nhìn thấy GPU như phần cứng thật, gần như không có lớp trừu tượng ở giữa. Cách làm này cho hiệu năng tối đa, phù hợp với huấn luyện mô hình lớn, mô phỏng vật lý độ chính xác cao hoặc pipeline dựng hình ngốn toàn bộ bộ nhớ GPU. Nhưng đổi lại, khả năng tận dụng tài nguyên thấp, vì khi tác vụ kết thúc thì cả GPU có thể bị bỏ không, đồng thời việc di chuyển nóng máy ảo thường không được hỗ trợ.

Nếu passthrough ưu tiên sức mạnh tuyệt đối, NVIDIA vGPU lại nhắm đến mật độ khai thác. vGPU, viết tắt của virtual GPU, là ngăn xếp phần mềm cho phép chia một GPU vật lý thành nhiều GPU ảo để nhiều máy ảo cùng sử dụng. Mỗi máy ảo nhận phần bộ nhớ riêng và chạy driver NVIDIA đầy đủ trong hệ điều hành khách. Với ứng dụng, vGPU hoạt động gần giống một card đồ họa rời thực thụ, nên các phần mềm yêu cầu driver NVIDIA được chứng nhận thường không cần chỉnh sửa. Mô hình này phù hợp với VDI, tức hạ tầng máy tính để bàn ảo, nơi nhiều nhân viên cần desktop có tăng tốc đồ họa; hoặc môi trường phát triển AI nơi nhiều kỹ sư dùng chung một máy chủ; hoặc các điểm cuối suy luận AI nơi nhiều dịch vụ cùng chia sẻ bộ nhớ GPU. Nhược điểm là doanh nghiệp phải mua thêm giấy phép phần mềm từ NVIDIA, thường theo hình thức định kỳ, và cấu hình hồ sơ vGPU thường bị cố định từ lúc tạo máy ảo.

MIG, viết tắt của Multi-Instance GPU, là tính năng phần cứng xuất hiện từ kiến trúc NVIDIA Ampere và tiếp tục được mở rộng trên Hopper và Blackwell. Khác với vGPU vốn chia sẻ tài nguyên bằng phần mềm, MIG cắt GPU thành các phân vùng được cưỡng chế ngay ở cấp silicon. Mỗi phân vùng có engine tính toán, bộ điều khiển bộ nhớ và băng thông bộ nhớ riêng. Điều đó mang lại khả năng cô lập lỗi và hiệu năng ổn định hơn: nếu một phân vùng gặp sự cố hoặc chạy tác vụ gây nhiễu, các phân vùng còn lại không bị ảnh hưởng. Đây là yếu tố quan trọng trong môi trường đa thuê, tức nhiều nhóm hoặc nhiều khách hàng cùng dùng chung hạ tầng, cũng như trong các ngành bị ràng buộc tuân thủ như y tế, tài chính hay quốc phòng. MIG đặc biệt phù hợp cho suy luận AI riêng tư, khi dữ liệu nhạy cảm phải ở trong biên giới tổ chức nhưng vẫn cần chạy đồng thời nhiều mô hình.

Bài viết nguồn nhấn mạnh rằng phần khó của ảo hóa GPU không nằm ở lý thuyết, mà ở triển khai thực tế. Trên nhiều hypervisor hiện nay, quản trị viên phải dùng dòng lệnh cho hầu hết thao tác quan trọng. Với passthrough, họ phải cấu hình IOMMU, một cơ chế ánh xạ bộ nhớ cho phép thiết bị ngoại vi truy cập bộ nhớ an toàn trong môi trường ảo hóa, rồi ràng buộc thiết bị ở cấp máy chủ. Chỉ một sai sót nhỏ có thể làm máy ảo mất ổn định hoặc khiến host gặp lỗi. Với vGPU, mọi thứ còn phức tạp hơn khi phiên bản giữa hypervisor, phần mềm NVIDIA vGPU Manager và driver trong hệ điều hành khách phải khớp chính xác. Chỉ một bản cập nhật driver ngoài ý muốn trong máy ảo cũng có thể làm hỏng chức năng vGPU trên cả máy chủ.

MIG được đánh giá cao về cô lập và khả năng chia sẻ, nhưng cũng là mô hình khó cấu hình nhất. Quản trị viên thường phải dùng nvidia-smi, công cụ dòng lệnh của NVIDIA để quản lý GPU, nhằm bật chế độ MIG, chọn profile phân vùng, tạo GPU instance rồi tiếp tục tạo compute instance bên trong từng phân vùng trước khi gán cho máy ảo. Khi nhu cầu tài nguyên thay đổi, toàn bộ cấu hình cũ có thể phải xóa và dựng lại từ đầu. Đây là quy trình dễ gây lỗi, đôi khi buộc phải khởi động lại GPU hoặc thậm chí cả máy chủ. Hệ quả là nhiều tổ chức dù có phần cứng hỗ trợ MIG vẫn tránh dùng vì không có chuyên gia GPU chuyên trách.

Passthrough phù hợp nhất với các tác vụ cần trọn vẹn một GPU và không cần chia sẻ, chẳng hạn huấn luyện mô hình ngôn ngữ lớn, mô phỏng động lực học chất lỏng, hóa học tính toán hoặc dựng hình độ phân giải cao. vGPU lại hợp với các hệ thống cần tối ưu mật độ, như VDI cho đội ngũ thiết kế và kỹ thuật, môi trường phát triển nơi nhiều lập trình viên cùng truy cập GPU, hoặc các dịch vụ suy luận AI chia sẻ một card bộ nhớ lớn. Trong khi đó, MIG là lựa chọn cho các kịch bản mà cô lập là yêu cầu bắt buộc, ví dụ suy luận AI nội bộ, xử lý ảnh y khoa, mô hình tài chính hoặc hạ tầng nghiên cứu dùng chung giữa nhiều nhóm nhưng không được phép tranh chấp tài nguyên.

Phần đáng chú ý nhất của nội dung nguồn là cách VergeIO định vị VergeOS như một nền tảng hợp nhất cho cả ba mô hình ảo hóa GPU. Theo mô tả, VergeOS hỗ trợ native, tức tích hợp sẵn, cho PCIe passthrough, NVIDIA vGPU và MIG trong cùng một giao diện quản trị. NVIDIA cũng đã xác thực VergeOS như một nền tảng vGPU tương thích với các gói RTX Virtual Workstation, Virtual PC và Virtual Applications. Phù hợp các máy tính công nghiệp, mini pc AI và Vision AI Quan trọng hơn, VergeOS được cho là loại bỏ phần lớn thao tác dòng lệnh: quản trị viên có thể chọn profile MIG, gán tài nguyên GPU cho máy ảo và thay đổi cấu hình khi nhu cầu tải việc đổi khác chỉ bằng giao diện đồ họa point-and-click.

Một trong những điểm đau lớn nhất của GPU ảo hóa là quản lý driver nhiều lớp. VergeOS tuyên bố đơn giản hóa quy trình này bằng cách cho phép tải driver lên một lần, sau đó hệ thống tự tạo ISO và tự động phân phối tới mọi máy ảo có GPU. ISO ở đây là định dạng ảnh đĩa thường dùng để đóng gói bộ cài. Cách tiếp cận này giúp giảm rủi ro lệch phiên bản giữa hypervisor, phần mềm vGPU và hệ điều hành khách. Ngoài ra, mức sử dụng GPU cũng xuất hiện cùng CPU và RAM trong một bảng điều khiển giám sát duy nhất, thay vì tách thành một mặt phẳng quản trị riêng. Với các đội IT tổng quát, đây có thể là yếu tố quyết định vì họ không cần học thêm một bộ công cụ chuyên biệt chỉ để vận hành GPU.

Thông điệp xuyên suốt của bài viết là doanh nghiệp không nên nhìn GPU chỉ như một món phần cứng cắm vào máy chủ. Khi AI, trực quan hóa và desktop ảo tăng tốc bằng GPU trở thành nhu cầu phổ biến, bài toán thực sự chuyển sang cách chia sẻ, cô lập, giám sát và tái cấu hình tài nguyên theo thời gian. Một card mạnh chưa đủ nếu nền tảng quản trị khiến mọi thay đổi đều phải quay lại dòng lệnh và phụ thuộc vào chuyên gia hiếm. Trong bối cảnh đó, cuộc cạnh tranh trên thị trường hạ tầng GPU có thể sẽ không chỉ xoay quanh A100, H100 hay Blackwell mạnh đến đâu, mà còn ở chỗ nền tảng nào giúp đội IT phổ thông triển khai và vận hành chúng dễ dàng nhất.