Startup chip AI hút hơn 1,1 tỷ USD chỉ trong đầu tuần, cuộc đua thách thức Nvidia tiếp tục nóng lên

Chỉ mới đầu tuần, các startup phát triển chip AI đã huy động tổng cộng hơn 1,1 tỷ USD, cho thấy giới đầu tư mạo hiểm vẫn đặt cược lớn vào cơ hội phá thế thống trị của Nvidia. Diễn biến này đặc biệt đáng chú ý khi thị trường liên tục tranh luận về nguy cơ “bong bóng AI” — tức tình trạng dòng tiền và kỳ vọng tăng quá nhanh so với khả năng tạo doanh thu thực tế. Tuy vậy, thay vì chững lại, các quỹ đầu tư vẫn tiếp tục rót vốn vào những công ty bán dẫn đang theo đuổi các kiến trúc xử lý mới cho trí tuệ nhân tạo.

Nổi bật nhất là MatX, startup do hai cựu kỹ sư Google là Reiner Pope và Mike Gunter thành lập năm 2022. Công ty vừa nhận 500 triệu USD trong vòng gọi vốn Series B, một giai đoạn huy động vốn thường dành cho doanh nghiệp đã có sản phẩm mẫu hoặc lộ trình thương mại hóa rõ ràng. MatX đang phát triển MatX One, bộ tăng tốc AI tối ưu cho LLM. LLM, hay mô hình ngôn ngữ lớn, là nền tảng đứng sau các chatbot và hệ thống tạo sinh nội dung hiện nay. Khác với nhiều đối thủ chỉ tập trung vào inference — giai đoạn mô hình đã huấn luyện xong và bắt đầu trả lời người dùng — MatX tuyên bố chip của họ sẽ xử lý được cả pre-training, reinforcement learning lẫn inference ở các bước prefill và decode. Trong đó, pre-training là quá trình huấn luyện ban đầu trên lượng dữ liệu khổng lồ; reinforcement learning là cách tinh chỉnh mô hình dựa trên phản hồi; còn prefill và decode là hai công đoạn tạo phản hồi theo từng lượt suy luận.

Điểm đáng chú ý trong thiết kế của MatX là việc ưu tiên SRAM để chứa mô hình. SRAM là loại bộ nhớ cực nhanh, có độ trễ thấp hơn rất nhiều so với HBM — bộ nhớ băng thông cao đang được AMD và Nvidia dùng rộng rãi trên GPU AI. Độ trễ thấp giúp chip phản hồi nhanh hơn, đặc biệt quan trọng với các tác vụ sinh token liên tục trong chatbot. MatX kỳ vọng chip đầu tiên của mình có thể tạo hơn 2.000 token mỗi giây với một mô hình mixture-of-experts 100 lớp. Token có thể hiểu là các đơn vị văn bản nhỏ mà mô hình xử lý và sinh ra từng bước; còn mixture-of-experts là kiến trúc chia mô hình thành nhiều “chuyên gia” con, chỉ kích hoạt một phần khi cần để tăng hiệu quả tính toán. Tuy nhiên, nhược điểm lớn của SRAM là chiếm nhiều diện tích trên chip, khiến mỗi khuôn bán dẫn chỉ chứa được vài trăm MB mà vẫn phải chừa chỗ cho khối tính toán.

Vì giới hạn dung lượng của SRAM, MatX dường như đang đi theo chiến lược mở rộng bằng số lượng chip, tương tự cách Groq từng theo đuổi. Công ty cũng không loại bỏ HBM hoàn toàn. Thay vào đó, HBM sẽ được dùng để lưu KV cache — bộ nhớ tạm lưu các cặp key-value đại diện cho trạng thái ngữ cảnh của mô hình trong quá trình hội thoại. Có thể hình dung KV cache như “trí nhớ ngắn hạn” giúp mô hình nhớ những gì vừa được nói trước đó mà không phải tính lại từ đầu. Bằng cách đặt trọng số hoặc phần dữ liệu cần truy cập cực nhanh trong SRAM, đồng thời dùng HBM cho KV cache, MatX kỳ vọng có thể kết hợp được thông lượng cao của GPU với độ phản hồi nhanh của các thiết kế dựa trên SRAM. Thông lượng ở đây là lượng phép tính hoặc dữ liệu hệ thống xử lý được trong một đơn vị thời gian.

Cũng trong ngày, startup Hà Lan Axelera công bố huy động 250 triệu USD để mở rộng dòng bộ tăng tốc AI công suất thấp dựa trên RISC-V. RISC-V là kiến trúc tập lệnh mã nguồn mở, cho phép các công ty tự thiết kế chip mà không phụ thuộc hoàn toàn vào các nền tảng sở hữu độc quyền như Arm hay x86. Không giống MatX nhắm thẳng vào trung tâm dữ liệu quy mô lớn, Axelera tập trung trước vào edge — tức các thiết bị xử lý gần nơi dữ liệu được tạo ra như camera thông minh, robot hay hệ thống công nghiệp. Cách tiếp cận này phù hợp với các tác vụ computer vision, nơi thiết bị phải xử lý hình ảnh ngay tại chỗ với giới hạn điện năng nghiêm ngặt.

Axelera cho biết chip mới nhất của họ, Europa, đạt hiệu năng tối đa 629 TOPS ở định dạng INT8. TOPS là viết tắt của tera operations per second, tức nghìn tỷ phép toán mỗi giây; còn INT8 là kiểu dữ liệu số nguyên 8-bit thường dùng trong AI để giảm điện năng và tăng tốc suy luận. Chip này đi kèm 64 GB DRAM với băng thông 200 GB/s. Theo công ty, xét riêng sức mạnh tính toán, Europa tiệm cận Nvidia A100 nhưng chỉ tiêu thụ 45 watt, tức dưới một phần sáu mức điện năng. Dù vậy, khoảng cách vẫn còn rõ ở bộ nhớ và băng thông: A100 sở hữu 80 GB HBM2E và băng thông tới 2 TB/s, cao hơn rất nhiều. Điều này cho thấy trong AI hiện đại, năng lực xử lý không còn là yếu tố duy nhất; khả năng nuôi dữ liệu cho khối tính toán cũng quyết định hiệu năng thực tế.

Axelera hiện phát triển thêm một con chip mới có tên mã Titania với hiệu năng cao hơn, hợp tác cùng chương trình DARE của EuroHPC. Đây là sáng kiến của châu Âu nhằm xây dựng năng lực tự chủ số, đặc biệt trong lĩnh vực siêu máy tính và bán dẫn. Nói cách khác, Titania không chỉ là một sản phẩm thương mại mà còn mang màu sắc chiến lược: tạo ra lựa chọn nội địa thay thế chip Mỹ trong các hệ thống tính toán hiệu năng cao. Trong bối cảnh chuỗi cung ứng bán dẫn ngày càng gắn với địa chính trị, những dự án như vậy đang trở thành ưu tiên của nhiều chính phủ và liên minh khu vực.

Mảnh ghép còn lại trong làn sóng gọi vốn lần này là SambaNova, công ty vừa nhận 350 triệu USD từ Vista Equity, Cambium Capital và quỹ đầu tư của Intel. Khoản tiền mới sẽ được dùng để đưa ra thị trường thế hệ bộ tăng tốc dataflow tiếp theo. Dataflow accelerator là loại chip tối ưu cách dữ liệu di chuyển qua các khối tính toán, nhằm giảm nghẽn cổ chai về bộ nhớ và tăng hiệu quả khi chạy AI. Đồng thời, SambaNova cũng công bố hợp tác nhiều năm với Intel để tích hợp bộ xử lý Xeon vào các máy chủ AI của mình. Xeon là dòng CPU máy chủ chủ lực của Intel, thường đóng vai trò điều phối hệ thống và xử lý các tác vụ tổng quát bên cạnh bộ tăng tốc chuyên dụng. Công ty cũng hé lộ chip mới SN50, dự kiến được SoftBank triển khai tại các trung tâm dữ liệu ở Nhật Bản từ cuối năm nay.

Nhìn tổng thể, làn sóng đầu tư mới cho thấy thị trường chip AI không còn xoay quanh một công thức duy nhất. MatX theo đuổi kiến trúc bộ nhớ lai SRAM-HBM để tối ưu LLM, Axelera đi từ edge lên datacenter với nền tảng RISC-V tiết kiệm điện, còn SambaNova tiếp tục đặt cược vào thiết kế dataflow cho suy luận AI. Dù tất cả đều muốn giành thị phần từ Nvidia, mỗi công ty đang chọn một điểm đau khác nhau của thị trường: độ trễ, điện năng, băng thông bộ nhớ hay khả năng mở rộng. Điều đó cũng đồng nghĩa cuộc cạnh tranh sắp tới sẽ không chỉ là ai có chip nhanh nhất, mà là ai giải được bài toán hiệu năng trên mỗi watt, trên mỗi USD và trên mỗi khối lượng công việc AI cụ thể.