AMD thâu tóm Mext: Dùng AI để giảm cơn khát RAM mà chính làn sóng AI tạo ra

AMD vừa mua lại startup Mext, một công ty phát triển nền tảng “bộ nhớ chủ động” dùng AI, trong bối cảnh thị trường vẫn chưa thoát khỏi tình trạng khan hiếm bộ nhớ. Thương vụ có giá trị không được tiết lộ, nhưng thông điệp thì rất rõ: AMD tin rằng trí tuệ nhân tạo không chỉ làm nhu cầu RAM bùng nổ, mà còn có thể giúp sử dụng RAM hiệu quả hơn. Ý tưởng cốt lõi là để phần mềm tự động quyết định dữ liệu nào nên ở lại trong RAM — loại bộ nhớ cực nhanh nhưng đắt đỏ — và dữ liệu nào có thể tạm chuyển sang bộ nhớ flash, vốn rẻ hơn đáng kể.

Được thành lập năm 2023, Mext phát triển một nền tảng có khả năng dự đoán trước nhu cầu truy cập dữ liệu. Hệ thống này dùng các thuật toán máy học và tập hợp quy tắc suy luận để nhận diện “cold memory”, tức các vùng dữ liệu ít được dùng, rồi chuyển chúng sang bộ nhớ flash. Khi phát hiện dữ liệu đó sắp cần dùng lại, nền tảng sẽ nạp ngược trở lại RAM trước khi ứng dụng yêu cầu. Cách làm này giúp hệ thống nhìn thấy flash gần như một lớp bộ nhớ mở rộng, thay vì chỉ là nơi lưu trữ chậm như ổ đĩa truyền thống.

Việc phân tầng bộ nhớ, hay “memory tiering”, vốn không phải khái niệm mới. Đây là kỹ thuật chia dữ liệu ra nhiều lớp lưu trữ khác nhau dựa trên tốc độ và chi phí, chẳng hạn RAM cho dữ liệu cần truy cập ngay, còn flash cho dữ liệu ít quan trọng hơn về độ trễ. Trước đây, thị trường từng có các giải pháp phần mềm tương tự, cũng như phần cứng chuyên biệt như Intel Optane persistent memory — một dạng bộ nhớ bền vững dùng công nghệ 3D XPoint do Intel và Micron cùng phát triển. Điểm khác biệt của Mext là bổ sung AI để dự đoán thời điểm dịch chuyển dữ liệu, thay vì chỉ phản ứng sau khi hệ thống đã chậm đi.

Mext không dựa vào một mô hình duy nhất để quyết định dữ liệu nào cần di chuyển. Công ty cho biết họ kết hợp nhiều phương pháp khác nhau, từ heuristic — tức các quy tắc kinh nghiệm giúp ra quyết định nhanh — đến LSTM, viết tắt của Long Short-Term Memory, một loại mạng nơ-ron phù hợp với dữ liệu chuỗi và hành vi lặp lại theo thời gian. Ngoài ra còn có transformer, kiến trúc AI hiện đại đứng sau nhiều mô hình ngôn ngữ lớn ngày nay, nổi bật ở khả năng nhận diện quan hệ trong lượng dữ liệu lớn. Mext sẽ chọn tổ hợp kỹ thuật nào cho kết quả tốt nhất trong từng tình huống vận hành.

Theo tuyên bố từ Mext, nền tảng của họ có thể mở rộng bộ nhớ hiệu dụng của hệ thống lên khoảng 2 đến 4 lần bằng cách tận dụng flash. “Bộ nhớ hiệu dụng” ở đây có thể hiểu là dung lượng bộ nhớ mà ứng dụng cảm nhận được trong thực tế, dù không phải toàn bộ đều là DRAM vật lý. DRAM là loại RAM chính trong máy chủ, có tốc độ rất cao nhưng chi phí cũng cao hơn nhiều so với flash tính trên từng gigabyte. Nếu công nghệ của Mext hoạt động đúng như quảng bá, doanh nghiệp có thể giảm áp lực phải mua thêm RAM đắt tiền mà vẫn duy trì được quy mô xử lý.

Dù các hệ thống flash hiện đại đã cải thiện mạnh về băng thông tổng — tức lượng dữ liệu có thể truyền trong một đơn vị thời gian — chúng vẫn thua xa RAM về độ trễ. Độ trễ là thời gian chờ từ lúc gửi yêu cầu đến khi dữ liệu thực sự sẵn sàng. Đây là lý do việc “swap” dữ liệu ra thiết bị lưu trữ, dù nhanh hơn trước rất nhiều, vẫn có thể làm ứng dụng chậm đi đáng kể. Mext cố giải quyết điểm yếu này bằng khả năng dự đoán sớm, nghĩa là đưa dữ liệu trở lại RAM trước khi CPU hoặc ứng dụng cần đến, nhằm giảm cảm giác trễ của hệ thống.

Theo Dan McNamara, Phó chủ tịch cấp cao phụ trách mảng điện toán và AI doanh nghiệp của AMD, công nghệ này có tiềm năng giúp giảm chi phí hạ tầng, cải thiện mức độ tận dụng tài nguyên và hỗ trợ khách hàng mở rộng cả khối lượng công việc AI lẫn tác vụ phổ thông. Trong bối cảnh doanh nghiệp phải chi ngày càng nhiều cho máy chủ AI, GPU và bộ nhớ tốc độ cao, bất kỳ giải pháp nào kéo giãn giá trị của RAM hiện có đều có thể tạo lợi thế đáng kể về chi phí vận hành.

Ngoài ứng dụng doanh nghiệp truyền thống, thương vụ này còn gợi mở khả năng tối ưu cho AI serving — tức giai đoạn triển khai mô hình để phục vụ người dùng thực tế, nơi yêu cầu về chi phí và độ trễ đặc biệt khắt khe. Một hướng đi đáng chú ý là các mô hình MoE, viết tắt của Mixture of Experts. Đây là kiểu mô hình gồm nhiều “chuyên gia”, tức các mạng con khác nhau, nhưng mỗi lần xử lý chỉ kích hoạt một số chuyên gia phù hợp thay vì dùng toàn bộ mô hình. Cách thiết kế này giúp tăng quy mô mô hình mà không khiến chi phí tính toán tăng tương ứng ở mọi truy vấn.

Trong các hệ thống AI hiện đại, HBM hay High Bandwidth Memory là loại bộ nhớ siêu nhanh đặt gần GPU, đóng vai trò cực kỳ quan trọng với suy luận và huấn luyện mô hình lớn. Tuy nhiên, HBM rất đắt và luôn khan hiếm. Nếu AMD áp dụng các thuật toán dự đoán của Mext vào môi trường AI, hãng có thể chuyển các “expert” ít được dùng trong mô hình MoE ra khỏi HBM sang bộ nhớ hệ thống chậm hơn, chỉ nạp lại khi cần. Điều đó có thể cho phép doanh nghiệp chạy các mô hình lớn hơn với ít tài nguyên cao cấp hơn. Hiện đây mới là suy đoán từ giới quan sát, và AMD chưa xác nhận kế hoạch cụ thể.

Dù giá trị mua lại chưa được công bố, thương vụ AMD-Mext cho thấy một xu hướng ngày càng rõ trong ngành hạ tầng tính toán: thay vì chỉ tiếp tục mua thêm phần cứng đắt tiền, các hãng đang tìm cách để phần mềm và AI điều phối tài nguyên thông minh hơn. Khi cơn sốt AI tiếp tục đẩy nhu cầu DRAM, flash và HBM lên cao, những công nghệ dự đoán truy cập dữ liệu như của Mext có thể trở thành mảnh ghép quan trọng trong trung tâm dữ liệu thế hệ mới.