Startup được Sam Altman hậu thuẫn muốn phá “bức tường bộ nhớ” bằng quang tử tích hợp trong chip AI

Volantis, startup chip AI thành lập năm 2022 tại San Francisco và nhận được hậu thuẫn từ Sam Altman, vừa hé lộ kế hoạch táo bạo nhằm vượt qua “memory wall” – hay còn gọi là “bức tường bộ nhớ”, thuật ngữ mô tả tình trạng tốc độ truyền dữ liệu giữa bộ nhớ và khối tính toán không theo kịp nhu cầu xử lý. Thay vì tiếp tục phụ thuộc hoàn toàn vào kết nối điện truyền thống bằng dây dẫn, công ty muốn đưa quang tử, tức công nghệ truyền tín hiệu bằng ánh sáng, trực tiếp vào bộ gia tốc AI để tăng mạnh băng thông bộ nhớ.

Theo kế hoạch, Volantis đang phát triển bộ gia tốc AI mang tên A-1 với một “photonic interposer” – có thể hiểu là lớp đế trung gian tích hợp các đường dẫn quang học để liên kết chip tính toán và bộ nhớ. Nhờ cấu trúc này, công ty tin rằng họ có thể đóng gói hơn 10 TB bộ nhớ trên một package duy nhất, đồng thời đạt băng thông lên tới 240 TB mỗi giây. Nếu các con số này thành hiện thực, Volantis cho rằng hệ thống đủ sức phục vụ mô hình AI quy mô 20 nghìn tỷ tham số với tốc độ 10.000 token mỗi giây cho mỗi người dùng. Trong đó, “token” là đơn vị dữ liệu cơ bản mà mô hình AI dùng để xử lý và sinh văn bản.

Điểm đáng chú ý là Volantis không chọn cách tự phát triển toàn bộ kiến trúc tính toán hay công nghệ bộ nhớ mới. Thay vào đó, công ty tập trung gần như toàn bộ khác biệt công nghệ vào optical interposer – lớp liên kết quang học giữa các thành phần – còn những phần khác sẽ được cấp phép từ các nhà cung cấp IP. Trong ngành bán dẫn, “IP” là các khối thiết kế sẵn như bộ điều khiển, giao tiếp bộ nhớ hay nhân xử lý, được mua bản quyền để rút ngắn thời gian phát triển chip. Theo CEO Tapa Ghosh, đây là cách thực tế hơn vì bản thân interposer quang và việc tích hợp nó đã là một canh bạc kỹ thuật rất lớn.

Ở các bộ gia tốc AI hiện đại, bộ nhớ băng thông cao như HBM – viết tắt của High Bandwidth Memory, loại bộ nhớ được xếp chồng nhiều lớp để đạt tốc độ cực cao – phải đặt rất gần die tính toán nhằm giảm điện năng tiêu thụ và giữ chất lượng tín hiệu. Vấn đề là số lượng chân kết nối dữ liệu và diện tích mép ngoài của die, còn gọi là “shoreline”, tạo ra giới hạn vật lý cho dung lượng và băng thông bộ nhớ có thể gắn kèm. Volantis cho rằng liên kết quang có thể nới khoảng cách này từ vài milimét lên vài centimét, nhờ đó bộ nhớ không còn bị bó buộc quanh sát vi xử lý nữa. Đây là cách tiếp cận giúp loại bỏ “shoreline” như một nút thắt cổ chai.

Ý tưởng dùng interposer quang silicon để nối bộ nhớ và tính toán đã từng được một số công ty như Lightmatter và Celestial AI theo đuổi. Tuy nhiên, điểm khác biệt của Volantis là startup này hiện không ưu tiên bán hoặc cấp phép công nghệ cho các hãng chip khác. Thay vào đó, họ muốn tự phát triển một con chip suy luận AI hoàn chỉnh. “Inference chip”, hay chip suy luận, là loại chip tối ưu cho giai đoạn chạy mô hình AI để trả kết quả cho người dùng, khác với chip huấn luyện vốn tập trung vào việc đào tạo mô hình trên khối dữ liệu khổng lồ.

Một khác biệt kỹ thuật khác nằm ở nguồn sáng. Thay vì dùng laser ngoài như nhiều thiết kế quang tử khác, Volantis sử dụng micro-VCSEL, tức các laser phát xạ bề mặt hốc cộng hưởng thẳng đứng cỡ siêu nhỏ, tích hợp trực tiếp trên interposer. VCSEL không phải công nghệ mới, nhưng từng bị hoài nghi về độ bền và độ ổn định. CTO Roy Meade cho rằng công nghệ này đã tiến bộ đáng kể trong vài năm gần đây, và nếu chấp nhận tốc độ mỗi liên kết thấp hơn một chút, hệ thống có thể đạt độ tin cậy cao hơn đáng kể.

Theo Volantis, ngành công nghiệp lâu nay thường bị cuốn vào tư duy dùng các liên kết điểm-điểm tốc độ cực cao, thường gắn với SerDes – viết tắt của Serializer/Deserializer, mạch dùng để biến dữ liệu song song thành dữ liệu nối tiếp tốc độ cao và ngược lại. Nhưng Meade cho rằng có một hướng khác: tăng băng thông bằng cách dùng nhiều đường truyền hơn ở tốc độ vừa phải. Đây cũng là triết lý của HBM, vốn đạt băng thông lớn nhờ bus cực rộng thay vì đẩy tốc độ từng chân tín hiệu lên quá cao. Volantis muốn áp dụng chính tư duy “wide and efficient”, tức “rộng và hiệu quả”, cho kết nối quang học.

Hiệu quả điện năng từ lâu là câu hỏi khó với nhiều startup quang tử. Volantis đặt mục tiêu cho thế hệ sản phẩm đầu tiên là mức tiêu thụ khoảng 1 picojoule trên mỗi bit cho mỗi lane 24 Gbps. “Lane” có thể hiểu là một kênh truyền dữ liệu riêng lẻ, còn Gbps là gigabit mỗi giây. Tổng điện năng hệ thống mà công ty hướng tới vào khoảng 20 kW. Đây vẫn là mức rất cao nếu nhìn từ góc độ hạ tầng trung tâm dữ liệu, nhưng có thể chấp nhận được nếu đổi lại là bước nhảy lớn về dung lượng bộ nhớ và băng thông cho các mô hình AI cực lớn.

Startup này vừa huy động được 88 triệu USD với sự tham gia của Lachy Groom, Abstract Ventures và các nhà đầu tư khác. Dù vậy, ban lãnh đạo Volantis thừa nhận số tiền này mới chỉ đủ để công ty mở rộng từ các nguyên mẫu quang học quy mô nhỏ sang hệ thống gần hơn với sản phẩm cuối cùng. Ngoài việc chế tạo interposer quang, họ còn phải giải quyết bài toán tích hợp nhiều khối IP được cấp phép vào cùng một thiết kế thống nhất – một công việc vốn nổi tiếng phức tạp trong ngành bán dẫn.

Theo CEO Tapa Ghosh, trong kịch bản lạc quan, Volantis có thể hướng tới một sản phẩm MVP trong vòng 12 đến 18 tháng. MVP là viết tắt của Minimum Viable Product, tức phiên bản sản phẩm tối thiểu nhưng đủ chức năng để chứng minh công nghệ hoạt động. Tuy nhiên, mốc thời gian này dành cho nguyên mẫu vận hành được, chứ chưa phải sản xuất hàng loạt. Với tham vọng kết hợp quang tử, đóng gói tiên tiến và bộ nhớ dung lượng cực lớn trong một package duy nhất, Volantis đang đặt cược vào một trong những hướng đi táo bạo nhất của thị trường chip AI hiện nay.