Từ thương vụ Mellanox đến doanh thu vượt Cisco: Nvidia dựng đế chế mạng cho kỷ nguyên AI

Nvidia không còn chỉ là cái tên thống trị thị trường bộ xử lý đồ họa và phần cứng trí tuệ nhân tạo. Công ty đang trở thành thế lực lớn trong ngành thiết bị mạng, với doanh số Ethernet cho trung tâm dữ liệu vượt mọi nhà cung cấp khác, theo bài viết của The Register.

Trong quý II, doanh thu mảng mạng của Nvidia vượt 17,5 tỷ USD, nhỉnh hơn mức 17,3 tỷ USD mà Cisco thu về từ toàn bộ hoạt động kinh doanh trong cùng kỳ. Đây không phải phép so sánh giữa hai mảng sản phẩm tương đương, nhưng cho thấy quy mô đáng kinh ngạc của một lĩnh vực từng đứng sau ánh hào quang GPU.

Nền móng cho bước tiến này được đặt từ năm 2019, khi Nvidia công bố thương vụ mua Mellanox trị giá 6,9 tỷ USD. Đó không đơn thuần là cuộc mở rộng danh mục sản phẩm: Nvidia đang chuẩn bị bán cả một hệ thống tính toán, thay vì chỉ những con chip bên trong.

Ở thời điểm thương vụ được công bố, Mellanox nổi tiếng với dòng ConnectX và thiết bị chuyển mạch InfiniBand hơn là thị trường chuyển mạch Ethernet. ConnectX thuộc nhóm NIC, tức card giao tiếp mạng giúp máy chủ trao đổi dữ liệu. Còn InfiniBand là công nghệ kết nối tốc độ cao, độ trễ thấp, phổ biến trong siêu máy tính và điện toán hiệu năng cao — những hệ thống chuyên xử lý các bài toán tính toán lớn.

Đây chính là mảnh ghép Nvidia cần. Khách hàng AI không chỉ mua một GPU hay một máy chủ; họ cần cả cụm máy phối hợp xử lý khối lượng công việc khổng lồ. Nếu dữ liệu di chuyển quá chậm giữa các bộ xử lý, sức mạnh tính toán đắt đỏ có thể bị lãng phí trong lúc chờ đợi.

Nvidia theo đuổi cách tiếp cận đồng thiết kế: xây dựng chip, thiết bị mạng và phần mềm để chúng hoạt động tốt cùng nhau cho một nhóm nhiệm vụ cụ thể. Theo nhà phân tích Sameh Boujelbene của Dell’Oro Group, kiến trúc tích hợp chặt giữa tính toán và kết nối là yếu tố quan trọng giúp khách hàng triển khai hệ thống AI dễ dàng, nhanh chóng hơn.

Recursion, doanh nghiệp ứng dụng học máy vào khám phá thuốc, là ví dụ rõ nét cho giá trị của cách tiếp cận này. Giám đốc công nghệ Ben Mabey cho biết dữ liệu của công ty hiện vượt 50 petabyte, tương đương hơn 50 triệu gigabyte nếu tính theo hệ thập phân. Lượng hình ảnh sinh học khổng lồ khiến việc luân chuyển dữ liệu trở thành thách thức đặc biệt lớn, ngay cả khi so với huấn luyện mô hình ngôn ngữ lớn — loại AI học từ kho văn bản để hiểu và tạo ngôn ngữ.

Cụm máy đầu tiên của Recursion, BioHive Zero, được ghép từ card đồ họa chơi game GTX 1080 và sử dụng Ethernet, chuẩn mạng phổ biến trong doanh nghiệp và trung tâm dữ liệu. Hệ thống sớm chạm giới hạn của hạ tầng kết nối truyền thống.

Với cụm máy tiếp theo gồm khoảng 300 bộ tăng tốc A100, Recursion chuyển sang thiết bị chuyển mạch Quantum InfiniBand và card mạng ConnectX của Nvidia. Theo Mabey, mua phần tính toán lẫn kết nối từ cùng một nhà cung cấp giúp đơn giản hóa đáng kể việc tối ưu và xử lý sự cố: đội hỗ trợ có thể nhìn toàn bộ cụm máy như một hệ thống thống nhất.

Doanh thu mạng của Nvidia tăng mạnh qua hai giai đoạn: làn sóng đầu tư AI sau khi ChatGPT xuất hiện, rồi quá trình thương mại hóa và mở rộng nguồn cung nền tảng Blackwell trong năm 2024–2025.

Một động lực quan trọng là Spectrum-X, nền tảng kết hợp thiết bị chuyển mạch Ethernet, card mạng thông minh và phần mềm tối ưu cho AI. Card mạng thông minh có thể đảm nhận thêm một số tác vụ xử lý lưu lượng, thay vì chỉ chuyển dữ liệu ra vào máy chủ. Sự phối hợp này giúp Ethernet đạt nhiều đặc tính hiệu năng vốn khiến InfiniBand hấp dẫn.

Siêu máy tính Colossus của Elon Musk là một trong những triển khai lớn ban đầu. Nửa đầu của cụm 200.000 chip H100 và H200 đi vào hoạt động năm 2024, sử dụng thiết bị Spectrum-X. Meta cũng sử dụng rộng rãi thiết bị Spectrum trong hạ tầng huấn luyện, bao gồm cơ sở Prometheus quy mô một triệu GPU tại New Albany, Ohio.

Ethernet còn có lợi thế về số cổng trên mỗi thiết bị chuyển mạch, thường được gọi là radix. Nhiều cổng hơn có thể giúp kết nối một cụm máy với ít thiết bị hơn ở cùng tốc độ cổng, qua đó giảm chi phí ở một số quy mô triển khai. Điều này không có nghĩa InfiniBand không thể mở rộng, mà là Ethernet đôi khi đem lại bài toán kinh tế thuận lợi hơn.

Nvidia không độc quyền khả năng tối ưu Ethernet cho AI. Broadcom, Cisco, AMD và các doanh nghiệp khác cũng đầu tư vào thiết bị chuyển mạch cùng card mạng thông minh để đạt mức khai thác hệ thống tương tự InfiniBand.

Điểm khác biệt của Nvidia nằm ở mức độ gắn kết giữa mạng và phần tính toán. Khi GPU, kết nối và phần mềm được phát triển như một tổng thể, khách hàng có thể bớt công sức ghép nối, tinh chỉnh và xác định nguyên nhân gây nghẽn.

Trong những dự án AI có chi phí lớn, thời gian đưa cụm máy vào hoạt động cũng là một lợi thế cạnh tranh. Nvidia vì vậy không chỉ bán băng thông, mà còn bán sự thuận tiện của một kiến trúc được tối ưu đồng bộ.

Blackwell mở thêm một hướng tăng trưởng cho mảng mạng. Trước đó, NVLink và NVSwitch — các công nghệ kết nối tốc độ cao giữa GPU của Nvidia — chủ yếu hoạt động trong từng hệ thống có tối đa tám GPU.

Với GB200 NVL72, Nvidia đưa NVSwitch thành các khay thiết bị chuyên dụng. Mỗi hệ thống tủ rack NVL72 đi kèm chín khay NVSwitch, kết nối 72 GPU để chúng phối hợp như một khối tính toán lớn. Như vậy, ngay cả khi khách hàng không chọn thiết bị mạng Nvidia để nối nhiều tủ máy với nhau, việc mua NVL72 vẫn tạo doanh thu NVSwitch.

Theo ước tính của Boujelbene, NVSwitch hiện đóng góp khoảng một phần ba doanh thu mạng Nvidia, tăng từ mức gần như bằng không chưa đầy hai năm trước. Đây là ước tính của nhà phân tích, nhưng nó cho thấy kết nối nội bộ hệ thống đã nhanh chóng trở thành một trụ cột kinh doanh.

Tham vọng tiếp theo là đưa công nghệ kết nối Nvidia vào cả những hệ thống không sử dụng GPU của hãng. Thông qua NVLink Fusion, Nvidia cho phép bên thứ ba cấp phép công nghệ kết nối để phát triển chip tương thích.

Marvell, Qualcomm, Arm, Fujitsu, MediaTek và d-Matrix đã công bố kế hoạch phát triển CPU hoặc các bộ xử lý, tăng tốc chuyên dụng sử dụng NVLink Fusion. Tuy nhiên, những chip này vẫn cần NVSwitch để giao tiếp theo kiến trúc đó, trong khi Nvidia chưa cấp phép công nghệ NVSwitch cho bên khác sản xuất.

Cơ chế này mở ra khả năng Nvidia tiếp tục bán thiết bị mạng ngay cả khi khách hàng lựa chọn bộ tăng tốc tùy biến thay cho GPU của hãng. Theo Boujelbene, đó là cách công ty mở rộng phần chi tiêu hạ tầng AI mà mình có thể tiếp cận.

Nvidia cũng đang tìm cơ hội ở những hướng kết nối mới, trong đó có mạng phục vụ việc phối hợp chặt hơn giữa các thành phần tính toán để đáp ứng AI tác nhân — các hệ thống có thể lập kế hoạch và thực hiện chuỗi nhiệm vụ, thay vì chỉ trả lời từng yêu cầu riêng lẻ.

Một hướng khác là CPO, hay quang học đồng đóng gói: đưa các thành phần truyền tín hiệu quang đến gần chip chuyển mạch trong cùng cấu trúc đóng gói. Công nghệ này được kỳ vọng giúp giải quyết áp lực về băng thông, điện năng và khả năng mở rộng.

Từ thương vụ Mellanox đến Spectrum-X, NVSwitch và NVLink Fusion, Nvidia đang chứng minh rằng cuộc đua AI không chỉ diễn ra trên bộ xử lý. Khi hàng chục nghìn GPU phải làm việc cùng nhau, hệ thống kết nối chúng cũng có thể trở thành một đế chế kinh doanh.