Cisco bắt tay Nvidia phát triển mô-đun quang cắm rời 12,8 Tbps, hứa hẹn giảm mạnh “mớ bòng bong” cáp trong trung tâm dữ liệu AI

Cisco vừa công bố hợp tác với Nvidia để phát triển một chuẩn mô-đun quang cắm rời mới mang tên USFP, viết tắt của Ultra-Dense Small Form Factor Pluggable. Đây là loại mô-đun quang có thể tháo lắp, dùng để truyền dữ liệu qua sợi quang giữa máy chủ, card mạng và switch trong trung tâm dữ liệu. Điểm đáng chú ý là USFP nhắm tới băng thông tối đa 12,8 Tbps trên một mô-đun duy nhất, cao hơn rất nhiều so với mức khoảng 1,6 Tbps của các mô-đun quang cao cấp phổ biến hiện nay.

Theo thông tin được công bố tại hội nghị Open Compute Project, hay OCP, chuẩn USFP có thể tích hợp tối đa 32 làn truyền dữ liệu, mỗi làn đạt 400 Gbps. “Làn truyền” ở đây có thể hiểu là các kênh dữ liệu song song hoạt động đồng thời để tăng tổng thông lượng. Tổng cộng, một mô-đun USFP sẽ đạt 12,8 Tbps băng thông Ethernet, tức chuẩn mạng phổ biến nhất trong các trung tâm dữ liệu hiện đại. Đáng nói hơn, Cisco cho biết mô-đun này có kích thước xấp xỉ các module OSFP hiện tại, vốn là một chuẩn mô-đun quang cắm rời quen thuộc trong hạ tầng mạng tốc độ cao.

Sự bùng nổ của AI đã khiến trung tâm dữ liệu ngày càng phức tạp, với hàng nghìn GPU, NIC, switch và bộ tăng tốc được nối với nhau bằng vô số sợi quang. NIC, hay Network Interface Card, là card mạng giúp máy chủ hoặc GPU giao tiếp với hệ thống mạng tốc độ cao. Trong các cụm AI hiện đại, mỗi GPU thường đi kèm kết nối 800 Gbps và sắp tới là 1,6 Tbps. Cisco cho rằng USFP có thể giúp gom nhiều kết nối lại thành ít bó cáp hơn, từ đó đơn giản hóa việc đi dây, giảm độ rối và hỗ trợ mở rộng cụm AI hiệu quả hơn.

Nếu đạt được thông số như thiết kế ban đầu, một mô-đun USFP có thể hợp nhất lưu lượng tương đương tám GPU vào một bó cáp quang duy nhất. Ở phía switch, lợi ích còn rõ rệt hơn: một switch tương lai có tổng dung lượng 204,8 Tbps chỉ cần 16 cổng USFP để phục vụ 128 điểm cuối 1,6 Tbps. Với các nhà vận hành hạ tầng AI, điều này không chỉ là câu chuyện về tốc độ, mà còn là mật độ kết nối, không gian lắp đặt và khả năng quản lý hệ thống ở quy mô rất lớn.

Tuy nhiên, nhồi nhét lượng kết nối khổng lồ vào một mô-đun cắm rời không hề đơn giản. Một mô-đun quang cao cấp hiện nay thường tiêu thụ khoảng 20 watt, trong khi đặc tả USFP của Cisco cho phép mức tiêu thụ lên tới 100 watt cho mỗi mô-đun. Đây là con số rất lớn với thiết bị cắm rời, kéo theo thách thức về tản nhiệt, cấp nguồn và độ bền vận hành. Ngoài ra, số lượng tiếp điểm điện cũng tăng lên tương ứng, đòi hỏi độ chính xác cơ khí rất cao khi lắp đặt.

Để xử lý bài toán cơ khí, Cisco cho biết module USFP sẽ dùng cơ chế cắm hai giai đoạn. Trước tiên, mô-đun được đưa vào khung giữ, sau đó một cơ cấu thứ hai mới được kích hoạt để tạo kết nối điện hoàn chỉnh. Cách làm này nhằm giảm nguy cơ lệch chân tiếp xúc hoặc kết nối không ổn định, vốn có thể trở thành vấn đề nghiêm trọng khi số lượng kênh truyền trên mỗi mô-đun tăng gấp nhiều lần so với hiện tại.

Mật độ cao cũng đồng nghĩa “bán kính ảnh hưởng” khi xảy ra lỗi sẽ lớn hơn. Nếu một laser hoặc bộ xử lý tín hiệu số DSP, tức Digital Signal Processor, trong mô-đun gặp sự cố, ảnh hưởng có thể không chỉ dừng ở một GPU mà lan tới cả một nhóm hệ thống. Dù vậy, Cisco lập luận rằng kịch bản này vẫn dễ chấp nhận hơn so với CPO, viết tắt của Co-Packaged Optics. CPO là cách đặt phần quang học sát hoặc tích hợp chung với chip chuyển mạch để giảm điện năng và tăng hiệu quả truyền dẫn. Nhược điểm là nếu phần quang hỏng, tác động có thể làm gián đoạn cả một rack máy.

Việc Nvidia cùng tham gia phát triển USFP được xem là khá đáng chú ý. Trong các dòng switch mới như Spectrum-X hay Quantum-X, hãng này đã chuyển dần sang dùng CPO để tiết kiệm điện, với lợi ích được cho là giảm khoảng 30% điện năng ở phía switch. Tuy nhiên, trên các NIC, Nvidia vẫn tiếp tục dùng mô-đun cắm rời vì chúng linh hoạt hơn cho các nhà tích hợp hệ thống. Không phải doanh nghiệp nào cũng xây cụm huấn luyện AI hơn 100.000 GPU; với nhiều rack dùng switch top-of-rack, tức switch đặt trên đỉnh tủ rack để kết nối các máy chủ trong cùng tủ, cáp đồng DAC vẫn là lựa chọn hợp lý và tiết kiệm điện.

Một động lực khác có thể khiến Nvidia quan tâm đến USFP là xu hướng tăng mật độ GPU trong mỗi rack. Hãng đang hướng tới các rack công suất tới 600 kW, chứa khoảng 144 GPU. Nền tảng Vera Rubin Ultra từng được Nvidia hé lộ với băng thông scale-out, tức băng thông mở rộng ra ngoài một máy hay một rack để kết nối cụm lớn hơn, đạt 115,2 TB/s mỗi rack. Quy đổi theo từng gói GPU, mức này tương đương khoảng 3,2 đến 6,4 Tbps tùy cách tính hai chiều hay một chiều. Trùng hợp là đặc tả USFP đầu tiên của Cisco cũng nhắm tới 16 làn 400 Gbps, tương đương đúng 6,4 Tbps.

Dù Cisco và Nvidia đang dẫn dắt sáng kiến này, USFP được định vị là một chuẩn mở của hệ sinh thái Ethernet. Điều đó có nghĩa các nhà sản xuất khác cũng có thể áp dụng trong thiết kế của mình, thay vì bị khóa vào một nhà cung cấp duy nhất. Trong bối cảnh các trung tâm dữ liệu AI ngày càng lớn và tốn kém, yếu tố chuẩn mở rất quan trọng vì giúp khách hàng có thêm lựa chọn, tránh phụ thuộc vào một hệ sinh thái phần cứng khép kín.

Bên cạnh câu chuyện USFP, Cisco cũng tiết lộ Microsoft đang sử dụng chip định tuyến Silicon One P200 để phân phối khối lượng công việc AI giữa nhiều trung tâm dữ liệu. Đây là xu hướng mà ngành gọi là scale-across networking, tức mở rộng tính toán qua nhiều địa điểm vật lý khác nhau thay vì chỉ dồn trong một cơ sở. Cách tiếp cận này đặc biệt hữu ích khi nguồn điện hoặc không gian tại một datacenter đơn lẻ trở thành điểm nghẽn.

Cisco cho biết P200 là nền tảng 51,2 Tbps đầu tiên đã được triển khai thực tế bởi các hyperscaler lớn. Hyperscaler là các công ty vận hành hạ tầng đám mây và trung tâm dữ liệu ở quy mô cực lớn như Microsoft hay Google. Trước đó, Microsoft đã được nhắc đến như một trong những đơn vị sớm áp dụng mô hình kết nối đa trung tâm dữ liệu để vượt qua giới hạn điện năng cục bộ, điển hình với các cụm Fairwater tại Wisconsin và Georgia. Việc Cisco xác nhận vai trò của Silicon One P200 cho thấy hãng đang chen chân sâu hơn vào lớp hạ tầng mạng lõi phục vụ AI quy mô siêu lớn.

Cisco cũng nhân dịp này nhấn mạnh cam kết với SONiC, một hệ điều hành mạng mã nguồn mở ban đầu do Microsoft phát triển. SONiC là viết tắt của Software for Open Networking in the Cloud, được nhiều hyperscaler ưa chuộng vì giúp tránh vendor lock-in, tức phụ thuộc vào một nhà cung cấp duy nhất, đồng thời đơn giản hóa việc quản lý mạng đa hãng. Thay vì buộc khách hàng dùng hệ điều hành Nexus của riêng mình, Cisco chọn cách hỗ trợ SONiC tốt hơn để tận dụng năng lực phần cứng ASIC của hãng. ASIC là chip được thiết kế chuyên biệt cho một tác vụ cụ thể, trong trường hợp này là xử lý lưu lượng mạng tốc độ cao.

Tại OCP, Cisco thông báo sẽ đưa nền tảng Live Protect lên SONiC trong năm tới. Đây là công cụ giúp khách hàng cập nhật các bản vá bảo mật dễ dàng hơn trong môi trường thực tế. Với các nhà vận hành mạng quy mô lớn, nơi thời gian ngừng dịch vụ dù rất ngắn cũng có thể gây thiệt hại đáng kể, khả năng vá lỗi bảo mật hiệu quả mà không làm gián đoạn hạ tầng là yếu tố ngày càng quan trọng.