Ayar Labs huy động 500 triệu USD để đưa quang tử silicon vào sản xuất đại trà, mở đường kết nối hàng chục nghìn GPU cho AI

Ayar Labs, công ty khởi nghiệp chuyên về quang tử silicon (silicon photonics – công nghệ dùng ánh sáng truyền dữ liệu ngay trên nền chip silicon thay vì tín hiệu điện thuần túy), vừa huy động được 500 triệu USD trong vòng Series E để đẩy nhanh quá trình sản xuất hàng loạt công nghệ co-packaged optics, hay CPO. CPO là cách đặt các thành phần quang học sát ngay bên cạnh bộ xử lý trong cùng một gói đóng chip, nhằm giảm điện năng tiêu thụ và tăng tốc độ truyền dữ liệu. Động thái này diễn ra chỉ một ngày sau khi Nvidia công bố kế hoạch rót 4 tỷ USD vào Coherent và Lumentum để mở rộng năng lực sản xuất mạng quang tử, cho thấy hạ tầng kết nối bằng ánh sáng đang trở thành mặt trận chiến lược mới của ngành AI.

Khi các cụm AI ngày càng lớn, bài toán không chỉ còn là sức mạnh của GPU mà còn là cách các chip nói chuyện với nhau. Ayar Labs phát triển chiplet TeraPHY – trong đó chiplet là một khối chức năng nhỏ có thể ghép cùng các khối khác trong một gói chip – để thay thế kết nối đồng truyền thống giữa chip với chip. Theo mô tả của công ty, ở tốc độ trên 800 Gbps, dây đồng bắt đầu gặp giới hạn rõ rệt: khoảng cách truyền ngắn, thường chỉ vài mét, và phải dùng thêm retimer, tức mạch trung gian giúp tái tạo tín hiệu để giảm lỗi. Điều này khiến các liên kết đồng tốc độ cao thường bị bó hẹp trong phạm vi một rack máy chủ. Trong khi đó, quang học cắm rời, còn gọi là pluggable optics, có thể đi xa hơn giữa các rack nhưng lại phải đánh đổi bằng điện năng cao hơn và độ trễ lớn hơn. Ayar Labs đang nhắm đúng vào khoảng trống này: giữ được lợi thế tốc độ và tầm xa của quang học nhưng đưa kết nối lại gần bộ xử lý hơn để giảm hao phí.

Theo Ayar Labs, khi tích hợp trực tiếp các chiplet TeraPHY vào GPU hoặc bộ gia tốc AI, hệ thống có thể đạt băng thông cao hơn đáng kể so với giải pháp quang học cắm rời, trong khi chỉ dùng một phần nhỏ điện năng. Đây là điểm đặc biệt quan trọng với AI hiện đại, nơi khâu huấn luyện và suy luận đều phụ thuộc vào việc di chuyển khối lượng dữ liệu khổng lồ giữa nhiều bộ xử lý. Huấn luyện là quá trình dạy mô hình AI từ dữ liệu, còn suy luận là giai đoạn mô hình đã học xong và bắt đầu trả lời hoặc tạo nội dung. Trong vài năm qua, Ayar Labs đã liên tục kiểm chứng công nghệ bằng nhiều nguyên mẫu, trong đó có dự án hợp tác với Intel và DARPA – cơ quan nghiên cứu quốc phòng tiên tiến của Mỹ, nổi tiếng với việc tài trợ các công nghệ nền tảng mang tính đột phá.

Bước tiến mới nhất của Ayar Labs là hợp tác với Global Unichip Corp, hay GUC, nhà cung cấp dịch vụ thiết kế bán dẫn tại Đài Loan, để xây dựng các thiết kế tham chiếu dựa trên chiplet quang học I/O của hãng. Thiết kế tham chiếu là mẫu kiến trúc sẵn giúp các đối tác rút ngắn thời gian phát triển sản phẩm thương mại. Một trong các thiết kế này được phát triển cùng Alchip và sử dụng 8 chiplet TeraPHY thế hệ mới. Tổng cộng, Ayar Labs tuyên bố cấu hình đó có thể cung cấp hơn 200 Tbps băng thông tổng hợp trên mỗi package, tức mỗi gói đóng chip hoàn chỉnh. Con số này vượt xa mức 28,8 Tbps băng thông hai chiều trên GPU Rubin của Nvidia, tương đương khoảng 3,6 TB mỗi giây. Nói cách khác, Ayar đang theo đuổi một mức kết nối nội bộ lớn hơn nhiều lần so với những gì các GPU AI cao cấp hiện nay cung cấp.

Điều hấp dẫn nhất trong tầm nhìn của Ayar Labs không chỉ là tăng băng thông từng chip, mà là mở rộng quy mô toàn hệ thống. Công ty cho biết họ muốn hướng tới khả năng kết nối tới 10.000 die GPU trong cùng một scale-up domain. Die là phần khuôn bán dẫn thực tế được cắt ra từ wafer, còn scale-up domain có thể hiểu là một miền hệ thống nơi nhiều bộ xử lý được kết nối cực chặt để hoạt động gần như một siêu máy tính thống nhất. Theo Giám đốc công nghệ Vladimir Stojanovic, mục tiêu là đạt quy mô đó trong khi vẫn giữ công suất điện của mỗi rack quanh mức 100 kW. Đây là chỉ số rất quan trọng với trung tâm dữ liệu, nơi mật độ điện năng và khả năng tản nhiệt đang trở thành rào cản lớn không kém hiệu năng tính toán.

Sự quan tâm của giới đầu tư dành cho Ayar Labs phản ánh một xu hướng rộng hơn: khi trung tâm dữ liệu AI đối mặt với giới hạn điện và làm mát, những công nghệ giúp giảm điện trên mỗi bit dữ liệu truyền đi sẽ ngày càng có giá trị. Các hệ thống scale-up như Nvidia NVL72 hay AMD Helios đang cho thấy lợi thế rõ ràng về hiệu năng khi nhiều GPU được ghép thành một cụm lớn, nhưng để mở rộng tiếp, ngành công nghiệp phải giải được nút thắt kết nối. Quang tử silicon vì thế nổi lên như một ứng viên sáng giá, bởi nó dùng tín hiệu ánh sáng để truyền dữ liệu với băng thông cao và suy hao thấp hơn trên khoảng cách dài, đồng thời hứa hẹn giảm tiêu thụ năng lượng so với nhiều kiến trúc điện truyền thống.

Ayar Labs cho biết số vốn mới sẽ được dùng để tăng năng lực sản xuất khối lượng lớn và mở rộng khả năng kiểm thử, hai yếu tố sống còn nếu công nghệ muốn bước từ phòng thí nghiệm sang thị trường trung tâm dữ liệu. Bên cạnh đó, công ty cũng lên kế hoạch mở rộng hoạt động toàn cầu, bắt đầu bằng văn phòng mới tại Hsinchu, Đài Loan – khu vực được xem là một trong những trung tâm quan trọng nhất của chuỗi cung ứng bán dẫn thế giới. Vòng gọi vốn Series E lần này do Neuberger Berman dẫn dắt, với sự tham gia của nhiều nhà đầu tư, bao gồm MediaTek và Nvidia. Theo dữ liệu từ PitchBook, Nvidia đã đầu tư vào Ayar Labs từ năm 2022.

Ayar Labs không phải cái tên duy nhất theo đuổi CPO. Lightmatter cũng đang cạnh tranh trong cùng không gian công nghệ này, từng ra mắt photonic interposer và chiplet optical I/O. Interposer quang tử là lớp trung gian giúp kết nối nhiều chip hoặc chiplet bằng đường truyền quang học mật độ cao trong cùng một gói. Trong khi đó, thị trường cũng đã bắt đầu chứng kiến các thương vụ thoái vốn lớn: hồi tháng 2, Marvell Technology hoàn tất việc mua lại Celestial AI với giá khoảng 3,25 tỷ USD. Những diễn biến này cho thấy quang tử cho AI không còn là ý tưởng xa vời, mà đang trở thành một lớp hạ tầng then chốt trong cuộc đua xây dựng siêu cụm GPU thế hệ tiếp theo.