Điện lưới đang trở thành giới hạn mới của cơn sốt GPU AI

Nvidia đang đối mặt với một thực tế ngày càng rõ ràng: khả năng bán thêm GPU không chỉ phụ thuộc vào nhu cầu AI, mà còn bị chặn bởi lượng điện mà lưới điện địa phương có thể cung cấp cho các trung tâm dữ liệu. Khi các hệ thống cũ như Hopper và Blackwell vẫn còn được vận hành trong nhiều năm do chu kỳ khấu hao dài, các nhà khai thác không thể đơn giản tháo bỏ hạ tầng cũ để thay bằng cụm máy mới hiệu quả hơn. Kết quả là càng bổ sung nhiều GPU, trung tâm dữ liệu càng cần rút thêm công suất từ lưới điện. Trong bối cảnh đó, Nvidia đang chuyển hướng sang các giải pháp tối ưu năng lượng nhằm giúp khách hàng khai thác tối đa hiệu năng trên mỗi gigawatt, tức lượng công việc tính toán thực hiện được trên mỗi đơn vị điện năng tiêu thụ.

DSX MaxLPS: kết nối hạ tầng để tận dụng từng kilowatt bị bỏ phí

Tại AI Infra Summit, Nvidia giới thiệu DSX MaxLPS, một thành phần trong nền tảng DSX được thiết kế để giảm phần công suất bị “mắc kẹt” trong trung tâm dữ liệu. Thông thường, một trung tâm dữ liệu công suất 100 megawatt hiếm khi chạy sát mức tối đa; chỉ khoảng 80% được dành cho tải tính toán quan trọng, còn phần dư được giữ lại để phòng hao hụt chuyển đổi điện, kém hiệu quả phần cứng hoặc các đợt tăng tải đột ngột. DSX MaxLPS tìm cách thu hồi phần công suất này bằng cách cho các hệ thống như tủ nguồn, pin, bộ phân phối chất làm mát, chiller và hệ thống quản lý tòa nhà “nói chuyện” với nhau theo thời gian thực. Nvidia gọi lớp kết nối này là DSX Exchange, về cơ bản là một API — tức giao diện lập trình ứng dụng cho phép các phần mềm và thiết bị khác nhau trao đổi dữ liệu — giúp đồng bộ thông tin từ nhiều nhà cung cấp như Vertiv hay Schneider Electric.

Lambda thử nghiệm tăng mật độ tính toán, cải thiện hiệu suất trên mỗi watt

Theo phần trình diễn của Nvidia và nhà cung cấp đám mây Lambda, việc dùng DSX MaxLPS có thể giúp nhồi thêm nhiều nút tính toán hơn trong cùng một “phong bì điện năng”, tức mức ngân sách điện cố định của một cụm máy. Cụ thể, Lambda cho biết họ có thể triển khai 19 node thay vì 16 node như trước trong cùng giới hạn điện, từ đó tăng thông lượng toàn cụm thêm 24% và cải thiện hiệu suất trên mỗi watt ở mức tương đương. Node ở đây có thể hiểu là một máy chủ hoặc đơn vị tính toán trong cụm AI. Với các nhà vận hành trung tâm dữ liệu, điều này đồng nghĩa họ không cần dự phòng công suất quá lớn như trước, bởi giờ đây họ có dữ liệu chi tiết hơn để điều khiển hạ tầng theo nhu cầu thực tế.

DSX Flex và bài toán “demand response” cho lưới điện

Bên cạnh tối ưu hóa nội bộ, Nvidia còn giới thiệu DSX Flex nhằm giúp trung tâm dữ liệu giảm tải khi lưới điện chịu áp lực cao. Giải pháp này được trình diễn cùng Emerald AI và Silicon Valley Power. Về bản chất, DSX Flex áp dụng mô hình demand response — cơ chế điều chỉnh nhu cầu điện, trong đó các đơn vị tiêu thụ lớn được yêu cầu tạm giảm mức dùng điện vào giờ cao điểm để tránh gây quá tải hệ thống. Đây không phải khái niệm mới, nhưng Nvidia muốn đóng gói nó thành một năng lực sẵn có cho các hệ thống AI dùng phần cứng của hãng. Điểm đáng chú ý là các tác vụ quan trọng vẫn tiếp tục chạy, còn các tác vụ không thiết yếu có thể bị tạm dừng hoặc chuyển sang trung tâm dữ liệu lân cận còn dư công suất.

“Chasing the sun” và cách AI workload dịch chuyển theo nơi có điện rẻ hoặc dư thừa

Nvidia cho biết khi nhà cung cấp điện cần thu hồi một phần công suất đã cấp, khối lượng công việc AI không nhất thiết phải dừng hoàn toàn. Nhờ tích hợp sâu với ngăn xếp phần mềm của hãng — tức toàn bộ lớp phần mềm điều phối từ phần cứng đến tác vụ — các workload không khẩn cấp có thể được chuyển sang địa điểm khác. Cách làm này đôi khi được gọi là “chasing the sun”, một khái niệm trong vận hành đám mây ám chỉ việc di chuyển tác vụ đến nơi có điều kiện thuận lợi hơn, chẳng hạn điện còn dư, giá điện thấp hơn hoặc năng lượng tái tạo đang dồi dào. Với các công ty điện lực, khả năng cắt giảm tải trong một khoảng thời gian ngắn có thể khiến họ bớt thận trọng hơn khi cấp thêm công suất cho các dự án trung tâm dữ liệu AI mới.

Lợi ích về hiệu quả đi kèm một “khu vườn có tường rào” mới của Nvidia

Dù mang lại lợi ích rõ rệt về hiệu quả điện năng và khả năng mở rộng hạ tầng AI, DSX cũng củng cố hệ sinh thái khép kín của Nvidia. Mô hình này thường được gọi là “walled garden”, tức môi trường nơi phần cứng, phần mềm và công cụ quản lý được tối ưu mạnh cho sản phẩm của một nhà cung cấp, nhưng khó tương thích hoàn hảo với đối thủ. Nvidia cho biết các đối tác nằm trong hệ sinh thái NVLink Fusion — công nghệ kết nối tốc độ cao giữa GPU và các bộ tăng tốc khác — như d-Matrix có thể có đường hướng tích hợp DSX. Tuy nhiên, các nền tảng cạnh tranh như GPU Instinct của AMD nhiều khả năng sẽ phải dựa vào hệ thống quản lý trung tâm dữ liệu khác để tái tạo các tính năng tương đương. Nói cách khác, trong lúc giúp khách hàng tận dụng tốt hơn nguồn điện đang khan hiếm, Nvidia cũng đang dựng thêm một lớp khóa chặt để giữ họ ở lại với phần cứng và nền tảng của mình.

Danh mục máy quét mã vạch

Máy quét mã vạch - Quét mã Qr - Quét mã vạch sản phẩm.

DÒNG MÁY CÓ DÂY

máy quét mã vạch không dây

DÒNG MÁY KHÔNG DÂY

DÒNG MÁY KIỂM KHO PDA

DÒNG MÁY FITMOUNT