Giáo sư Stanford thúc đẩy Homa, giao thức mạng mới được kỳ vọng thay thế TCP trong kỷ nguyên AI

John Ousterhout, giáo sư danh dự ngành khoa học máy tính tại Đại học Stanford, cho rằng TCP – giao thức truyền tải dữ liệu nền tảng của phần lớn web và điện toán đám mây – đang bộc lộ nhiều hạn chế trong trung tâm dữ liệu hiện đại. Theo ông, các hệ thống AI ngày nay, đặc biệt là những cụm máy chủ dùng GPU để huấn luyện và vận hành mô hình ngôn ngữ lớn (LLM, tức mô hình AI được huấn luyện trên lượng dữ liệu khổng lồ), đòi hỏi độ trễ cực thấp hơn là chỉ cần băng thông cao. Chỉ một vài mili giây chậm trễ cũng có thể khiến GPU, bộ xử lý đồ họa rất đắt đỏ chuyên tăng tốc AI, rơi vào trạng thái nhàn rỗi.

Giải pháp mà Ousterhout đang cổ vũ có tên Homa, một giao thức mạng được thiết kế lại từ đầu cho môi trường trung tâm dữ liệu. Khác với TCP vốn hoạt động theo kiểu stream-based, nghĩa là xem dữ liệu như một dòng byte liên tục, Homa là message-based, tức truyền theo từng thông điệp có kích thước xác định rõ ràng. Cách tiếp cận này gần với RPC (Remote Procedure Call, cơ chế cho phép một máy gọi hàm hoặc dịch vụ trên máy khác như thể đang gọi cục bộ). Theo lập luận của nhóm phát triển, khi mạng hiểu rõ từng thông điệp dài hay ngắn, hệ thống có thể ưu tiên xử lý thông minh hơn.

Điểm khác biệt lớn nhất của Homa nằm ở kiểm soát tắc nghẽn, tức cách mạng tránh bị quá tải khi quá nhiều gói dữ liệu cùng lưu thông. Với TCP, phía gửi chủ yếu tự điều chỉnh tốc độ dựa trên tín hiệu phản hồi từ phía nhận, nên thường phải “đoán” mức giảm tốc phù hợp. Trong khi đó, Homa trao vai trò điều phối cho phía nhận. Ngay từ gói đầu tiên, bên nhận đã biết còn bao nhiêu dữ liệu sắp tới và có thể lên lịch rõ ràng thời điểm các gói tiếp theo được gửi. Homa còn áp dụng thuật toán SRPT (Shortest Remaining Processing Time, ưu tiên tác vụ còn thời gian xử lý ngắn nhất), từ đó đẩy nhanh các thông điệp nhỏ và nhạy cảm với độ trễ.

Theo Ousterhout, cách làm của Homa giúp giảm độ trễ cho các thông điệp nhỏ tới cả một bậc độ lớn. Ông cho biết độ trễ p99 – viết tắt của 99th percentile, tức mức mà 99% yêu cầu đều nhanh hơn ngưỡng này – của Homa chỉ khoảng 92 micro giây đối với thông điệp ngắn. Con số đó nhanh hơn khoảng 13 lần so với mức 1,2 mili giây của TCP trong thử nghiệm trên mạng 100 Gbps với mức sử dụng 80%. Ngay cả với các thông điệp dài, Homa vẫn được nói là cho kết quả tốt hơn khoảng gấp đôi.

Dù ý tưởng thay thế TCP nghe có vẻ rất lớn, Ousterhout cho rằng việc đưa Homa vào vận hành thực tế không quá phức tạp. Theo ông, quản trị viên có thể biên dịch Homa từ mã nguồn trên GitHub rồi cài module vào nhân Linux của máy khách và máy chủ mà không cần khởi động lại. Nhân Linux là phần lõi của hệ điều hành, chịu trách nhiệm quản lý tài nguyên phần cứng và giao tiếp mạng. Quan trọng hơn, Homa có thể chạy song song với TCP, cho phép doanh nghiệp chuyển đổi ứng dụng từng bước thay vì phải thay toàn bộ hạ tầng trong một lần.

Homa không phải dự án mới xuất hiện gần đây. Giao thức này bắt đầu từ luận án tiến sĩ công bố năm 2019 của Behnam Montazeri, hiện là kỹ sư cấp cao tại Google. Sau khi nghỉ giảng dạy, Ousterhout cho biết ông xem việc thúc đẩy Homa như “sứ mệnh cuộc đời”. Hiện ông đang soạn thảo tài liệu để đưa Homa vào quy trình chuẩn hóa của IETF, tổ chức quốc tế xây dựng nhiều tiêu chuẩn cốt lõi cho Internet. Song song, ông cũng làm việc để upstream Homa vào Linux kernel, tức tích hợp chính thức vào mã nguồn chính của nhân Linux thay vì chỉ tồn tại dưới dạng bản vá riêng. Hồi tháng 3, Homa đã được backport, tức chuyển ngược để hỗ trợ các phiên bản cũ hơn, cho Red Hat Enterprise Linux 8 và 9.5.

Dù vậy, Homa vẫn gây tranh cãi trong giới mạng máy tính. Kiến trúc sư mạng Ivan Pepelnjak từng công khai chỉ trích giao thức này, đặt câu hỏi về cách nhóm phát triển mô tả hiệu năng của TCP và cho rằng Homa giống một giải pháp đang đi tìm vấn đề để giải quyết. Hoài nghi này không khó hiểu, bởi TCP đã thống trị Internet trong nhiều thập kỷ nhờ cung cấp những nền tảng quan trọng như bắt tay kết nối, kiểm soát luồng, đảm bảo truyền nhận và cơ chế chống tắc nghẽn.

Trên thực tế, AI không phải cộng đồng duy nhất cảm thấy TCP quá chậm. Trong cơ sở dữ liệu hiệu năng cao, DPDK (Data Plane Development Kit, bộ công cụ tăng tốc xử lý gói tin) thường được dùng để bỏ qua ngăn xếp TCP truyền thống nhằm giảm độ trễ truy vấn. Trong lưu trữ, NVMe-oF (NVMe over Fabrics, cách truy cập ổ SSD qua mạng tốc độ cao) tận dụng các công nghệ như RDMA, Fibre Channel và cả TCP để tăng tốc truyền dữ liệu. RDMA, hay Remote Direct Memory Access, cho phép máy này truy cập trực tiếp bộ nhớ máy khác với rất ít can thiệp của CPU, nhờ đó giảm độ trễ đáng kể. Trên web, Google đã phát triển QUIC – giao thức sau này trở thành nền tảng của HTTP/3 – để khắc phục hiện tượng head-of-line blocking, tức một gói bị chậm có thể làm cả luồng dữ liệu phía sau phải chờ. Các lĩnh vực như giao dịch tần suất cao, game nhiều người chơi và cả dịch vụ đám mây cũng đã tìm đến những giải pháp riêng để né điểm yếu của TCP.

Các phòng thí nghiệm AI hàng đầu phải trao đổi liên tục những khối dữ liệu như trọng số mô hình, gradient trong quá trình huấn luyện, KV cache – vùng nhớ đệm lưu khóa và giá trị để tăng tốc suy luận của mô hình ngôn ngữ lớn – hay các checkpoint, tức bản chụp trạng thái huấn luyện để có thể khôi phục khi cần. Vấn đề là những luồng dữ liệu khổng lồ này nay phải chia sẻ băng thông với hàng loạt tác vụ ngắn nhưng quan trọng như điều phối metadata, tra cứu cache hoặc các agent AI gửi yêu cầu điều khiển. Trong bối cảnh đó, độ trễ thấp trở thành yếu tố sống còn, bởi một thông điệp điều khiển nhỏ đến muộn cũng có thể làm chậm cả cụm GPU.

Nhìn tổng thể, Homa đang được giới thiệu như một cuộc tái tư duy về mạng máy tính cho thời đại AI, thay vì chỉ là một bản tối ưu nhỏ cho TCP. Việc giao thức này có thực sự trở thành chuẩn mới hay không vẫn còn bỏ ngỏ, nhất là khi hệ sinh thái hiện tại phụ thuộc quá sâu vào TCP. Tuy nhiên, áp lực từ các tải công việc AI, nơi từng micro giây đều có giá trị, đang khiến ngành công nghiệp nghiêm túc xem xét những lựa chọn từng bị coi là quá cấp tiến. Ít nhất ở thời điểm hiện tại, TCP vẫn là nhà vô địch đương nhiệm, nhưng Homa đã bắt đầu được nhìn nhận như một đối thủ đáng chú ý.