Hạ tầng cũ đang cản bước AI doanh nghiệp: Không chỉ mua GPU là đủ

Nhiều doanh nghiệp bước vào cuộc đua AI với hai ưu tiên quen thuộc: mua GPU và xây dựng chiến lược dữ liệu. GPU là bộ xử lý đồ họa, nay được dùng rộng rãi để tăng tốc huấn luyện và suy luận AI nhờ khả năng xử lý song song rất lớn. Tuy nhiên, sau những khoản đầu tư ban đầu đó, không ít dự án vẫn chậm tiến độ vì nền tảng máy chủ hiện hữu không đủ sức đáp ứng. Vấn đề nằm ở chỗ khối lượng công việc AI có đặc tính hoàn toàn khác so với các ứng dụng ảo hóa truyền thống. Nếu hạ tầng ảo hóa thường được tối ưu cho tải ổn định, thì AI, đặc biệt là huấn luyện mô hình, lại có tính bùng nổ, ngốn tài nguyên lớn trong thời gian ngắn. Phần lớn trung tâm dữ liệu doanh nghiệp được xây dựng trong giai đoạn 2015-2020, trước khi AI trở thành yêu cầu vận hành thực tế, nên kiến trúc cũ nay bộc lộ nhiều giới hạn.

Theo phân tích từ thị trường, máy chủ thế hệ cũ thường tạo ra ba vấn đề chính cho các sáng kiến AI. Thứ nhất là nghẽn dữ liệu: kiến trúc cũ không thể cấp dữ liệu cho GPU đủ nhanh, khiến bộ tăng tốc đắt tiền phải chờ dữ liệu thay vì làm việc hết công suất. Thứ hai là rủi ro bảo mật: các cơ chế bảo vệ truyền thống không được thiết kế cho môi trường huấn luyện AI phân tán, nơi mô hình và dữ liệu liên tục di chuyển qua nhiều nút tính toán, làm mở rộng bề mặt tấn công. Thứ ba là thiếu khả năng quan sát, hay còn gọi là observability, tức năng lực theo dõi và hiểu rõ điều gì đang giới hạn hiệu năng hệ thống. Khi không nhìn thấy nút thắt, đội ngũ CNTT gần như chỉ có thể phỏng đoán nguyên nhân chậm trễ. Vì vậy, chi phí giữ lại phần cứng cũ có thể trông rẻ trước mắt, nhưng lại kéo theo chi phí cơ hội rất lớn do dự án AI bị trì hoãn, điện năng tiêu thụ kém hiệu quả và mức phơi nhiễm an ninh ngày càng tăng.

Một thực tế phổ biến là doanh nghiệp đang vận hành đồng thời ba hoặc bốn thế hệ máy chủ khác nhau. Môi trường đa thế hệ này khiến hệ thống không có một chuẩn hiệu năng nhất quán. Khi đó, tác vụ AI thường được phân lịch đến nơi còn tài nguyên trống, chứ không phải nơi chạy tốt nhất. Kết quả là các phiên huấn luyện lẽ ra chỉ mất vài giờ có thể kéo dài thành nhiều ngày vì bị chặn ở những máy chủ cũ hơn trong chuỗi xử lý. Đây là vấn đề đặc biệt nghiêm trọng với các tác vụ huấn luyện phân tán, nơi nhiều máy cùng tham gia đào tạo một mô hình AI. Chỉ cần một nút chậm cũng có thể kéo giảm tốc độ của toàn bộ cụm.

Điểm đáng chú ý là hạ tầng sẵn sàng cho AI không chỉ cần thêm năng lực xử lý thô. Băng thông bộ nhớ mới là yếu tố quan trọng hơn nhiều người nghĩ, nhất là với suy luận ở quy mô lớn. Suy luận, hay inference, là giai đoạn mô hình đã được huấn luyện và bắt đầu trả lời câu hỏi hoặc tạo nội dung mới. Ở giai đoạn này, nhiều tác vụ bị giới hạn bởi tốc độ truy cập dữ liệu trong bộ nhớ hơn là sức mạnh tính toán đơn thuần, tức là memory-bound thay vì compute-bound. Nếu máy chủ không thể chuyển dữ liệu đủ nhanh, GPU vẫn bị ‘đói dữ liệu’. Ngoài ra, bảo mật cho AI hiện đại cần được tích hợp từ cấp độ phần cứng, thường được mô tả là ‘root of trust trong silicon’ – nền tảng tin cậy bắt đầu ngay từ chip để bảo vệ toàn bộ vòng đời máy chủ. Song song với đó là lớp quản trị hợp nhất đầu-cuối, cho phép quan sát toàn bộ hạ tầng tính toán, kể cả môi trường phân tán và đa nhà cung cấp, nhằm xác định chính xác điểm nghẽn hiệu năng.

Thông điệp lớn từ thị trường là hiện đại hóa hạ tầng AI không nên bị hiểu đơn thuần là thay máy chủ. Điều doanh nghiệp cần là một lớp quản lý vận hành đủ thông minh để chỉ ra tác vụ AI đang bị giới hạn ở đâu, từ CPU, GPU, bộ nhớ, lưu trữ đến mạng. Trong bối cảnh đó, HPE đang nhấn mạnh các nền tảng ProLiant Gen11 và Gen12 như dòng máy chủ được thiết kế cho mật độ AI cao nhưng vẫn chạy tốt các tải truyền thống như ảo hóa và điện toán biên. Điện toán biên, hay edge computing, là mô hình xử lý dữ liệu gần nơi dữ liệu được tạo ra thay vì đẩy hết về trung tâm dữ liệu. Hãng cũng giới thiệu Morpheus VM Essentials như công cụ hiện đại hóa môi trường ảo hóa và giảm rủi ro chi phí bản quyền. Theo cách tiếp cận này, doanh nghiệp nên khởi đầu bằng các trường hợp sử dụng AI có giá trị cao nhưng dễ triển khai để tạo kết quả nhanh, sau đó mở rộng dần. Việc xác định đúng dự án nào đang bị hạ tầng kìm hãm sẽ giúp mang lại ROI, tức tỷ suất hoàn vốn đầu tư, sớm hơn và giảm rủi ro trước khi làm mới toàn bộ hệ thống.

Trong giai đoạn AI bước từ thử nghiệm sang vận hành thực tế, bài toán hạ tầng đang trở thành yếu tố quyết định thành bại. Doanh nghiệp có thể sở hữu GPU mới, mô hình mới và dữ liệu tốt, nhưng nếu vẫn dựa trên nền máy chủ cũ, thiếu bảo mật theo chuẩn AI và không có khả năng quan sát vận hành, hiệu quả đầu tư sẽ bị bào mòn nhanh chóng. Xu hướng hiện nay cho thấy các tổ chức không chỉ cần năng lực tính toán mạnh hơn, mà còn cần kiến trúc cân bằng giữa băng thông bộ nhớ, bảo mật tích hợp từ phần cứng và công cụ quản trị thông minh. Với nhiều CIO và lãnh đạo CNTT, câu hỏi không còn là có nên nâng cấp hạ tầng cho AI hay không, mà là nâng cấp theo lộ trình nào để tránh biến GPU thành khoản đầu tư đắt đỏ nhưng bị máy chủ cũ kéo lùi.