Gremlin tung Foresight AI: dùng AI chủ động “đập” hệ thống phân tán để tìm lỗi trước khi sự cố xảy ra

Gremlin, công ty nổi tiếng với mảng chaos engineering – phương pháp cố tình tạo ra lỗi có kiểm soát trong hệ thống đang chạy để kiểm tra khả năng chịu lỗi – vừa giới thiệu Foresight AI, tiện ích mới giúp tự động hóa mạnh hơn quá trình kiểm thử và khắc phục sự cố. Thay vì chờ ứng dụng sập rồi mới phân tích, nền tảng này chủ động gây ra các tình huống như tắt máy chủ, làm chậm mạng hoặc tạo áp lực tài nguyên để xem hạ tầng phản ứng ra sao trong môi trường thực tế.

Theo Gremlin, điểm khác biệt của Foresight AI là nó không dừng ở việc giám sát như nhiều công cụ AIOps. AIOps là cách dùng trí tuệ nhân tạo để vận hành CNTT, thường tập trung vào phát hiện và xử lý sự cố sau khi chúng đã xuất hiện. Với Foresight AI, AI được đưa vào quy trình “thử phá” hệ thống trước, sau đó mới phân tích hậu quả để chỉ ra lỗ hổng tiềm ẩn. Cách làm này đặc biệt hữu ích với các hệ thống phân tán, tức kiến trúc gồm nhiều dịch vụ, máy chủ hoặc cụm tài nguyên phối hợp với nhau, nơi lỗi nhỏ ở một điểm có thể lan rộng rất khó đoán.

Để sử dụng, doanh nghiệp cài các agent – chương trình nhỏ chạy trên máy chủ hoặc môi trường vận hành – cho phép Gremlin chèn độ trễ mạng, tắt pod hoặc đẩy bộ nhớ lên mức tối đa. Pod là đơn vị triển khai cơ bản trong Kubernetes, nền tảng điều phối container phổ biến của doanh nghiệp hiện nay. Sau khi lỗi được kích hoạt, dịch vụ đám mây của Gremlin theo dõi telemetry, tức dữ liệu quan sát hệ thống như log, chỉ số hiệu năng và cảnh báo, để tìm dấu hiệu cho thấy kiến trúc đang có điểm yếu.

Nền tảng cho tham vọng AI của Gremlin là Failure Atlas, kho dữ liệu nội bộ được xây dựng từ hàng triệu thí nghiệm chaos engineering mà công ty thực hiện trong suốt một thập kỷ trên hàng chục nghìn hệ thống. Gremlin cho biết họ đã tạo một lớp kết nối để ràng buộc mô hình ngôn ngữ lớn, hay LLM, với kho dữ liệu này. LLM là loại AI tạo sinh chuyên xử lý và sinh nội dung ngôn ngữ, nhưng đôi khi có thể tạo ra câu trả lời sai mà vẫn nghe rất thuyết phục – hiện tượng thường được gọi là hallucination, hay “ảo giác AI”. Việc neo AI vào dữ liệu thử nghiệm thực tế giúp câu trả lời mang tính kỹ thuật hơn, thay vì chỉ tổng hợp thông tin chung chung từ Internet.

Khi một lỗi đã được cố ý tạo ra, Foresight AI sẽ tìm root cause, tức nguyên nhân gốc của sự cố, rồi sinh ra đoạn mã hoặc thay đổi cấu hình mà nó cho là phù hợp để khắc phục. Sau đó, hệ thống có thể tự áp dụng bản sửa hoặc tạo báo cáo để kỹ sư độ tin cậy hệ thống, thường gọi là SRE, xem xét. SRE là nhóm chuyên đảm bảo dịch vụ vận hành ổn định, hiệu năng tốt và có khả năng phục hồi khi gặp lỗi. Gremlin mô tả đây là một vòng lặp kiểu agentic loop – quy trình AI có thể tự thực hiện nhiều bước liên tiếp để đạt mục tiêu – nhưng vẫn giữ con người ở các điểm quyết định quan trọng.

Một trong những vấn đề nhạy cảm nhất khi cố tình phá hệ thống là blast radius, tức phạm vi ảnh hưởng của sự cố. Gremlin nói các cơ chế bảo vệ hiện có được xây dựng dựa trên quyền truy cập và các lớp kiểm soát bảo mật sẵn có của doanh nghiệp, nhằm giới hạn mức độ lan rộng của thử nghiệm. Nói cách khác, công cụ được thiết kế để chỉ làm lộ ra điểm yếu chứ không tạo ra thảm họa ngoài tầm kiểm soát. Tuy nhiên, việc cho phép một nền tảng tự động gây lỗi lên hạ tầng sản xuất hoặc tiền sản xuất chắc chắn vẫn đòi hỏi phê duyệt ở cấp quản trị cao.

Theo Gremlin, tệp khách hàng hiện nay chủ yếu là các doanh nghiệp lớn có khối lượng tính toán cao, đặc biệt trong tài chính, bán lẻ và SaaS doanh nghiệp. SaaS, viết tắt của Software as a Service, là mô hình cung cấp phần mềm qua Internet theo dạng dịch vụ thuê bao. Các tổ chức này dùng Gremlin để kiểm thử kế hoạch khôi phục thảm họa, xác minh hệ thống có hoạt động đúng trong điều kiện không lý tưởng hay không, và đảm bảo Kubernetes có thể mở rộng đúng cách khi tải tăng cao.

Những lỗi trong hệ thống phân tán thường không dễ lộ diện qua unit test hay integration test thông thường. Unit test là kiểm thử ở cấp thành phần nhỏ, còn integration test kiểm tra cách nhiều thành phần hoạt động cùng nhau. Nhưng khi ứng dụng chạy trên nhiều dịch vụ, nhiều vùng hạ tầng hoặc nhiều lớp mạng, các vấn đề như độ trễ mạng, cạn kiệt bộ nhớ hay mất kết nối từng phần có thể tạo ra hành vi bất thường mà bài kiểm thử truyền thống khó mô phỏng đầy đủ. Đó là lý do chaos engineering tiếp tục được xem là công cụ quan trọng để phơi bày các lỗi “ẩn mình” trước khi người dùng thật gặp phải.

Gremlin cho rằng làn sóng dùng AI để viết ứng dụng và triển khai hạ tầng đang khiến tốc độ thay đổi hệ thống nhanh hơn khả năng rà soát của con người. AI có thể tạo mã, cấu hình hoặc quy trình triển khai với tốc độ rất cao, nhưng cũng có thể mắc sai lầm ở bất kỳ khâu nào. Trong bối cảnh đó, công cụ có thể tự động gây áp lực lên hệ thống để kiểm tra sức chịu đựng trở thành một lớp phòng thủ mới, giúp doanh nghiệp phát hiện vấn đề trước khi lỗi leo thang thành sự cố diện rộng.

Dù ý tưởng “phá để bảo vệ” nghe có vẻ nghịch lý, nhiều chuyên gia cho rằng đây là hướng đi đáng chú ý khi hạ tầng số ngày càng phức tạp. Tuy nhiên, để các nền tảng như Foresight AI phát huy hiệu quả, doanh nghiệp sẽ phải thay đổi cách nhìn về rủi ro: chấp nhận những thử nghiệm thất bại có kiểm soát hôm nay để tránh một sự cố thật sự nghiêm trọng vào ngày mai. Với Gremlin, AI không thay thế kỹ sư vận hành, mà đóng vai trò tăng tốc một công việc vốn tốn nhiều thời gian, đòi hỏi kinh nghiệm và rất dễ bị bỏ sót khi hệ thống ngày càng lớn.