Revolut giảm 90% chi phí AI lập trình: Bí quyết không chỉ nằm ở việc rời Claude

Token rẻ hơn không chỉ giúp tiết kiệm tiền: với Revolut, chúng còn thay đổi cách kỹ sư sử dụng trí tuệ nhân tạo trong công việc. Công ty công nghệ tài chính Anh cho biết đã giảm khoảng 90% chi phí suy luận AI phục vụ lập trình trong chưa đầy một năm bằng cách chuyển sang ưu tiên các mô hình tự vận hành, thay vì phụ thuộc chủ yếu vào dịch vụ thương mại như Claude. Suy luận là quá trình mô hình xử lý yêu cầu và tạo câu trả lời, khác với giai đoạn huấn luyện.

Chia sẻ tại hội nghị AI Engineer ở New York tháng trước, David Abitbol, phụ trách vận hành và hạ tầng của Revolut, cho biết việc triển khai công cụ AI cho khoảng 2.000 kỹ sư đi kèm mức cải thiện 60% về thời gian lập trình và 70% về thời gian đưa công việc qua quy trình phát triển. Đây là những kết quả do doanh nghiệp công bố.

Revolut từng triển khai Gemini vào đầu năm 2025, rồi Claude Code vào đầu năm 2026. Tuy nhiên, mức chi từ 1.000 đến 10.000 USD mỗi tháng ở một số kỹ sư, trong khi hiệu quả đầu tư chưa rõ ràng, khiến công ty áp dụng giới hạn ngân sách nghiêm ngặt.

Lối thoát được tìm thấy ở GLM-5.1, mô hình do Z.ai của Trung Quốc phát triển. Theo Revolut, chi phí tự vận hành mô hình này vào khoảng 0,30 USD cho mỗi triệu token đầu vào/đầu ra, tương đương một phần mười so với sử dụng OpenAI Codex hoặc Anthropic Claude Code. Token là đơn vị văn bản mà mô hình xử lý, có thể là một phần từ, một từ hoặc ký hiệu trong mã nguồn.

Khi không còn quá lo ngại về hạn mức, kỹ sư bắt đầu giao cho AI nhiều việc hơn: tìm và sửa lỗi, xử lý các đầu việc trên Jira, cũng như nội dung trên Confluence — những nền tảng quản lý công việc và tài liệu nhóm. Theo Abitbol, đây mới là nơi xuất hiện những lợi ích lớn nhất, bởi nút thắt của phát triển phần mềm không chỉ nằm ở thao tác viết mã.

Sau GLM-5.1, Revolut chuyển sang GLM-5.3 và hiện phục vụ mô hình bằng 56 GPU Nvidia B200, tương đương số lượng bộ xử lý đồ họa trong bảy hệ thống DGX B200 loại tám GPU. GPU là loại bộ xử lý có khả năng thực hiện nhiều phép tính song song, được sử dụng rộng rãi để chạy AI.

Đây không phải những mô hình nhẹ. Riêng GLM-5.1 có khoảng 754 tỷ tham số — các giá trị số hình thành khả năng xử lý của mô hình — nhưng chỉ khoảng 40 tỷ tham số được kích hoạt cho mỗi token tạo ra. Mô hình cần khoảng 380 GB bộ nhớ GPU chỉ để chứa trọng số, chưa kể thêm 6–26 GB cho mỗi người dùng để duy trì ngữ cảnh, tùy độ chính xác tính toán.

Dù vậy, Abitbol cho biết bước tiến hiệu năng lớn nhất không đến từ việc bổ sung GPU. Revolut tập trung điều chỉnh các cấu hình vận hành, áp dụng lượng tử hóa NVFP4 — biểu diễn các giá trị bằng định dạng số 4 bit nhằm giảm nhu cầu bộ nhớ và tính toán — đồng thời tách giai đoạn xử lý đầu vào khỏi giai đoạn sinh câu trả lời để tối ưu tài nguyên.

Một lựa chọn đáng chú ý khác là không chạy theo cửa sổ ngữ cảnh lớn nhất. Cửa sổ ngữ cảnh là lượng thông tin mô hình có thể xem xét trong một lượt xử lý, bao gồm yêu cầu, mã nguồn và tài liệu liên quan. Theo Abitbol, khả năng hỗ trợ một triệu token không đồng nghĩa doanh nghiệp cần sử dụng hết mức đó; khoảng 256.000 token đã phù hợp với nhu cầu của Revolut.

Sau tối ưu, công ty cho biết hệ thống có thể tạo token đầu tiên trong chưa đến ba giây với ngữ cảnh khoảng 256.000 token, rồi sinh nội dung ở tốc độ khoảng 200 token mỗi giây. Abitbol nhận xét rằng người dùng bắt đầu phàn nàn khi thời gian chờ ban đầu vượt năm giây, trong khi tốc độ sinh nhanh hơn không phải lúc nào cũng mang lại khác biệt tương xứng.

Lý do là cách làm việc đã thay đổi: kỹ sư thường giao nhiều tác vụ song song rồi quay lại kiểm tra kết quả, thay vì ngồi theo dõi từng dòng AI tạo ra. Sau 17 giờ, khi nhu cầu giảm, một số người dùng có thể đạt tốc độ gần 800 token mỗi giây.

GLM chưa loại bỏ hoàn toàn GPT hay Claude khỏi Revolut. Do mô hình đang được sử dụng chỉ xử lý văn bản, công ty vẫn chuyển những yêu cầu cần phân tích hình ảnh, chẳng hạn một số công việc giao diện, sang mô hình khác như Gemini hoặc GPT Luna. Việc phân luồng này do bộ định tuyến mô hình đảm nhiệm: một lớp phần mềm lựa chọn mô hình phù hợp với từng loại yêu cầu.

Theo Abitbol, lợi ích kinh tế của hướng đi mới là chi phí ổn định hơn và ít nguy cơ xuất hiện hóa đơn bất ngờ cuối tháng. Các mô hình trọng số mở — cho phép doanh nghiệp tiếp cận bộ trọng số để tự triển khai — trở thành lựa chọn ưu tiên, còn dịch vụ AI thương mại tiên tiến được dùng theo nhu cầu cụ thể.

Về bảo mật, Abitbol cho rằng mối lo lớn khi dùng mô hình Trung Quốc nằm ở việc truy cập qua giao diện lập trình ứng dụng đặt tại Trung Quốc; tự triển khai tại chỗ hoặc trên hạ tầng đám mây trong khu vực giúp giảm lo ngại đó. Tuy nhiên, quyền kiểm soát nơi vận hành không đồng nghĩa mọi rủi ro đều biến mất: doanh nghiệp vẫn cần đánh giá mô hình, quản trị dữ liệu và bảo vệ hệ thống triển khai. Bài học nổi bật từ Revolut vì thế không đơn thuần là đổi nhà cung cấp, mà là thiết kế lại cả chi phí, hạ tầng lẫn cách kỹ sư sử dụng AI.