Marvell tung chip chuyển mạch 102,4 Tbps cho AI, thách thức Broadcom và Cisco trong cuộc đua hạ tầng trung tâm dữ liệu

Tại Computex 2026, Marvell đã giới thiệu Teralynx T100, dòng chip chuyển mạch mạng mới được thiết kế riêng cho hạ tầng AI. Con số 102,4 Tbps ở đây đề cập đến tổng băng thông chuyển mạch cực lớn của con chip, tức khả năng xử lý lưu lượng dữ liệu lên tới 102,4 terabit mỗi giây trong trung tâm dữ liệu. Marvell cho biết sản phẩm này nhắm trực tiếp vào các cụm AI cần độ trễ thấp, tiêu thụ điện ít hơn và khả năng mở rộng mạnh hơn để phục vụ cả huấn luyện lẫn suy luận AI.

Theo Marvell, Teralynx T100 tiêu thụ điện năng thấp hơn khoảng 25% so với các giải pháp cạnh tranh, đồng thời giảm độ trễ mạng. Độ trễ là khoảng thời gian dữ liệu đi từ điểm này sang điểm khác; trong các hệ thống AI lớn, chỉ cần vài phần triệu giây chênh lệch cũng có thể ảnh hưởng đến hiệu suất tổng thể. Công ty nhấn mạnh rằng khi các rack GPU tiến gần mốc 120 kW, tức mức điện năng cực cao cho mỗi cụm máy chủ tăng tốc AI, việc dùng chip mạng tiết kiệm điện sẽ giúp trung tâm dữ liệu triển khai thêm nhiều bộ tăng tốc hơn mà không vượt quá giới hạn công suất hiện có.

Teralynx T100 là một chip nguyên khối, hay monolithic device, nghĩa là toàn bộ logic chính được tích hợp trên một đế bán dẫn duy nhất thay vì ghép nhiều khuôn chip lại với nhau. Marvell cho biết chip được sản xuất trên tiến trình 3nm, công nghệ chế tạo bán dẫn tiên tiến giúp tăng mật độ transistor và cải thiện hiệu quả điện năng. Hãng nói cách tiếp cận này loại bỏ các thành phần di sản không cần thiết, tức những khối chức năng cũ vốn làm tăng diện tích khuôn chip và điện năng tiêu thụ. Dù mức tiêu thụ điển hình dưới 1.000 W vẫn là rất cao đối với một linh kiện đơn lẻ, Marvell khẳng định đây vẫn là bước tiến đáng kể trong thế giới mạng AI hiệu năng cực cao.

Một trong những thông số đáng chú ý nhất là khả năng hỗ trợ radix lên tới 512 cổng trong các triển khai scale-out. Radix là số lượng cổng mà một switch có thể cung cấp; radix càng cao thì càng ít switch cần dùng để kết nối cùng một số lượng máy chủ hoặc bộ tăng tốc. Điều này giúp giảm số tầng mạng, làm phẳng kiến trúc kết nối và từ đó cắt giảm độ trễ. Với các cụm huấn luyện AI khổng lồ gồm hàng nghìn node, tức các máy chủ hoặc điểm xử lý được kết nối với nhau, lợi thế này đặc biệt quan trọng vì khối lượng dữ liệu trao đổi giữa GPU là rất lớn và liên tục.

Không chỉ phục vụ mô hình scale-out, tức mở rộng bằng cách tăng số lượng node trong cụm, Teralynx T100 còn được Marvell quảng bá cho các triển khai scale-up, nơi hệ thống tăng hiệu năng bằng cách liên kết chặt chẽ nhiều bộ xử lý hoặc bộ tăng tốc trong cùng một miền tính toán. Chip sử dụng kiến trúc programmable pipeline, tức đường ống xử lý gói tin có thể lập trình để thích ứng với nhiều chuẩn kết nối khác nhau. Marvell cho biết sản phẩm hỗ trợ các giao thức mới như ESUN, viết tắt của Ethernet Scale-Up Networking, cùng các yêu cầu mới nhất từ Ultra Ethernet Consortium, liên minh đang thúc đẩy Ethernet trở thành nền tảng mạng tối ưu cho AI. Nói đơn giản, đây là nỗ lực giúp Ethernet, chuẩn mạng phổ biến nhất hiện nay, cạnh tranh tốt hơn với những công nghệ liên kết chuyên biệt trong các siêu cụm AI.

Sự kiện ra mắt của Marvell càng gây chú ý khi CEO Nvidia Jensen Huang công khai ca ngợi công ty này tại Computex. Ông gọi Marvell là “công ty nghìn tỷ USD tiếp theo” và nhấn mạnh rằng chip mạng và chip kết nối của hãng đóng vai trò thiết yếu trong các trung tâm dữ liệu hiện đại, nơi tác vụ tính toán được phân tán trên hàng nghìn node liên kết với nhau. Theo Reuters, phát biểu này đã giúp cổ phiếu Marvell tăng hơn 24% trong giao dịch trước giờ mở cửa. Trước đó, Nvidia cũng đã đầu tư 2 tỷ USD vào Marvell và công bố quan hệ đối tác chiến lược nhằm kết nối công ty với sáng kiến AI factory của Nvidia. AI factory có thể hiểu là mô hình trung tâm dữ liệu được tối ưu như một “nhà máy” chuyên sản xuất năng lực AI, từ huấn luyện mô hình đến vận hành suy luận ở quy mô lớn.

Dù thông báo mới rất ấn tượng, Marvell thực tế bước vào phân khúc này khá muộn. Thị trường đã có những đối thủ đi trước như Broadcom với Tomahawk 6 ra mắt từ năm ngoái, hay Cisco với Silicon One G300 được công bố đầu năm nay. Điều đó có nghĩa Marvell không chỉ phải chứng minh ưu thế kỹ thuật, mà còn phải thuyết phục khách hàng chuyển sang một nền tảng mới trong bối cảnh các nhà vận hành hyperscaler, tức những tập đoàn đám mây quy mô siêu lớn như các hãng công nghệ toàn cầu, thường ra quyết định rất thận trọng với hạ tầng mạng cốt lõi.

Marvell cho biết Teralynx T100 sẽ bắt đầu được gửi mẫu cho khách hàng ngay trong quý này và sẽ có nhiều cấu hình đóng gói khác nhau. Trong đó có BGA, hay ball grid array, một kiểu đóng gói chip phổ biến dùng các điểm tiếp xúc dạng bi hàn ở mặt dưới; CPC, viết tắt của co-packaged copper, tức tích hợp đồng đóng gói để tối ưu kết nối điện; và CPO, hay co-packaged optics, công nghệ đưa linh kiện quang học đến sát chip xử lý nhằm giảm tổn hao tín hiệu và cải thiện hiệu quả truyền dữ liệu ở tốc độ cực cao. CPO đặc biệt được giới công nghệ quan tâm vì có thể là chìa khóa cho các thế hệ switch AI tương lai, nơi băng thông tăng nhanh hơn khả năng của kết nối điện truyền thống.

Sự xuất hiện của Teralynx T100 cho thấy cuộc đua AI không còn chỉ xoay quanh GPU hay bộ tăng tốc, mà đang mở rộng mạnh sang lớp mạng kết nối. Khi các mô hình AI ngày càng lớn và đòi hỏi hàng chục nghìn chip tính toán hoạt động đồng bộ, switch silicon, tức chip chuyển mạch chuyên xử lý và điều phối luồng dữ liệu trong mạng, trở thành mắt xích chiến lược. Marvell đang đặt cược rằng sự kết hợp giữa băng thông 102,4 Tbps, điện năng tối ưu hơn và hỗ trợ các chuẩn Ethernet AI mới sẽ giúp hãng giành chỗ đứng trong một thị trường hạ tầng đang tăng trưởng bùng nổ.