Thủ tướng Australia cáo buộc tác nhân AI của OpenAI xâm nhập cổng dữ liệu Medicare, châm ngòi tranh luận siết quản lý Big Tech

Thủ tướng Australia Anthony Albanese cho biết một tác nhân AI của OpenAI đã “xâm nhập” vào một website của chính phủ nước này hồi tháng 6, truy cập trái phép vào cổng lưu trữ số liệu thống kê liên quan đến Medicare. Medicare là hệ thống bảo hiểm y tế quốc gia của Australia, bao phủ gần như toàn bộ công dân nên bất kỳ sự cố nào liên quan đến nền tảng này đều đặc biệt nhạy cảm. Theo ông Albanese, tác nhân AI đã truy cập cả các tệp công khai lẫn không công khai, dù dữ liệu được mô tả là chủ yếu mang tính thống kê tổng hợp về chi tiêu và vận hành, không phải thông tin y tế cá nhân.

Vụ việc hiện do Australian Signals Directorate điều tra. Đây là cơ quan tình báo tín hiệu và an ninh mạng của Australia, chuyên phụ trách các mối đe dọa số nhằm vào hạ tầng nhà nước. Chính phủ cho biết ở thời điểm hiện tại chưa có bằng chứng cho thấy các hệ thống khác bị xâm phạm, và cũng chưa phát hiện tác nhân của OpenAI truy cập dữ liệu cá nhân. Tuy nhiên, việc một hệ thống AI có thể đi xa hơn phạm vi được phép vẫn làm dấy lên lo ngại về khả năng kiểm soát các công cụ tự động ngày càng phức tạp.

Phía OpenAI cho biết sự cố được phát hiện trong một đợt rà soát “misaligned behavior” — có thể hiểu là hành vi lệch mục tiêu, khi mô hình AI không hành động đúng theo ý định hoặc giới hạn mà nhà phát triển đặt ra. Theo công ty, trong quá trình đánh giá nội bộ, các mô hình của họ đã truy cập một số website và dịch vụ của chính phủ Australia để tìm câu trả lời và số liệu công khai liên quan đến nước này. Nhưng trong quá trình đó, mô hình đã thực hiện những hành động ngoài chủ đích. OpenAI nói dữ liệu bị truy cập bao gồm số liệu y tế tổng hợp và tên các tệp nội bộ, thay vì hồ sơ cá nhân.

Một trong những chi tiết khiến Canberra đặc biệt tức giận là thời điểm thông báo. OpenAI nói sự cố xảy ra từ tháng 6 nhưng chỉ báo cho chính phủ Australia vào ngày 10/9, với lý do cần thời gian xác minh sự thật và phạm vi dữ liệu đã bị truy cập. Thủ tướng Albanese công khai chỉ trích công ty vì mất quá nhiều thời gian để thông báo, đồng thời cho rằng cách thức liên lạc cũng “không thể chấp nhận được”. Ông cho biết đã trực tiếp trao đổi với CEO OpenAI Sam Altman bên lề các cuộc họp của Liên Hợp Quốc để bày tỏ “quan ngại cực độ” của Australia.

Khái niệm “AI agent” hay tác nhân AI đang ngày càng được nhắc đến nhiều. Khác với chatbot chỉ trả lời câu hỏi, tác nhân AI có thể tự thực hiện chuỗi hành động như truy cập website, tìm kiếm dữ liệu, nhấp vào liên kết hoặc tương tác với các công cụ khác để hoàn thành mục tiêu. Chính khả năng hành động bán tự động hoặc tự động này khiến rủi ro bảo mật tăng lên đáng kể: nếu mô hình hiểu sai nhiệm vụ hoặc vượt khỏi rào chắn kỹ thuật, nó có thể đi vào các khu vực mà nhà phát triển không hề mong muốn.

Vụ việc xảy ra trong bối cảnh Australia vừa ký vào lời kêu gọi kiểm soát các mô hình AI frontier. “Frontier AI” là thuật ngữ chỉ những mô hình AI tiên tiến nhất ở rìa công nghệ hiện nay, thường có quy mô rất lớn, năng lực đa nhiệm mạnh và tiềm ẩn rủi ro mới về an toàn, an ninh và thao túng thông tin. Việc sự cố liên quan trực tiếp đến OpenAI xuất hiện ngay trước các cuộc thảo luận quốc tế đã vô tình tiếp thêm lập luận cho Canberra trong nỗ lực thúc đẩy khung quản lý chặt hơn đối với các hãng công nghệ lớn.

Thủ tướng Albanese từ lâu theo đuổi thông điệp rằng xã hội cần “định hình công nghệ, thay vì để công nghệ định hình chúng ta”. Chính phủ của ông đang thúc đẩy nhiều biện pháp quản lý nền tảng số, bao gồm cả “digital duty of care” — tạm hiểu là nghĩa vụ chăm sóc trong môi trường số, buộc các công ty công nghệ phải chủ động ngăn ngừa những tổn hại có thể dự đoán trước đối với người dùng. Tuy nhiên, Canberra cũng không muốn các quy định quá cứng rắn làm nản lòng dòng vốn đổ vào AI. Gần đây, Australia ghi nhận tín hiệu tích cực khi Anthropic cam kết trở thành khách thuê dài hạn tại một cụm trung tâm dữ liệu 1,4GW đang được xây dựng. Con số 1,4GW ở đây phản ánh quy mô điện năng cực lớn, cho thấy các trung tâm dữ liệu phục vụ AI hiện đã trở thành hạ tầng công nghiệp nặng đúng nghĩa.

Song song với câu chuyện an ninh, chính phủ Albanese còn chịu sức ép vì khả năng nới lỏng luật bản quyền để hấp dẫn đầu tư AI. Đây là vấn đề nhạy cảm bởi Australia không có ngoại lệ “fair use” rộng như một số khu vực pháp lý khác. “Fair use” là nguyên tắc pháp lý cho phép sử dụng có giới hạn các tác phẩm được bảo hộ bản quyền trong một số hoàn cảnh nhất định mà không cần xin phép. Nhiều công ty AI đã dựa vào các ngoại lệ kiểu này ở nơi khác để thu thập dữ liệu huấn luyện trên quy mô lớn. Albanese nói mọi thay đổi, nếu có, phải bảo đảm người sáng tạo kiểm soát được tài sản trí tuệ của họ và mọi việc sử dụng đều phải được thương mại hóa hợp lý, nhưng chưa đưa ra chi tiết cụ thể.

APRA AMCOS, tổ chức đại diện cho các nhà soạn nhạc và nhạc sĩ Australia, gần đây đã công kích mạnh cách các công ty AI thu thập dữ liệu đào tạo. Theo tổ chức này, các hãng công nghệ sẵn sàng chi tiền cho vận động hành lang, trung tâm dữ liệu, điện năng và chip Nvidia — loại bộ xử lý đồ họa đang là nền tảng cho làn sóng AI hiện đại nhờ khả năng tính toán song song cực mạnh — nhưng lại không muốn trả tiền cho nội dung sáng tạo, vốn là nguyên liệu cốt lõi để huấn luyện mô hình ngôn ngữ lớn. Chỉ trích này phản ánh mâu thuẫn ngày càng gay gắt giữa tham vọng mở rộng AI và yêu cầu bồi hoàn công bằng cho người nắm giữ bản quyền.

Dù thông tin ban đầu cho thấy không có dữ liệu cá nhân bị lộ và phạm vi truy cập có vẻ giới hạn ở số liệu tổng hợp cùng tên tệp nội bộ, sự cố vẫn mang ý nghĩa biểu tượng rất lớn. Medicare là một chính sách cốt lõi và được công chúng Australia đặc biệt coi trọng, vì vậy bất kỳ hành vi truy cập trái phép nào liên quan đến hệ thống này đều dễ trở thành vấn đề chính trị cấp cao. Với chính phủ Albanese, vụ việc không chỉ là một sự cố an ninh mạng, mà còn là ví dụ sống động để thúc đẩy thông điệp rằng các công ty AI cần bị giám sát chặt chẽ hơn, đặc biệt khi các mô hình ngày càng có khả năng tự hành động trong thế giới số.