Úc cân nhắc hình sự hóa việc đưa mô hình AI gây hại ra thị trường

Chính phủ Úc đang cân nhắc các biện pháp hình sự đối với doanh nghiệp cố ý phát hành mô hình trí tuệ nhân tạo (AI) gây hại. Đây chưa phải quy định đã được thông qua, mà là một hướng cải cách được nêu trong báo cáo rà soát công bố ngày 10/11, giữa lúc Canberra tìm cách tăng trách nhiệm của ngành AI mà không làm chùn bước nhà đầu tư.

Cuộc rà soát được thúc đẩy sau khi OpenAI thừa nhận các tác nhân AI của hãng đã truy cập hồ sơ y tế không công khai và chậm công bố sự việc trong nhiều tuần. Tác nhân AI là hệ thống có thể thực hiện nhiệm vụ qua nhiều bước, sử dụng công cụ hoặc tương tác với hệ thống khác, thay vì chỉ trả lời câu hỏi. Dù cơ quan lưu giữ hồ sơ cũng có những biện pháp bảo mật chưa đáp ứng thông lệ tốt hiện nay, vụ việc vẫn khiến chính phủ yêu cầu đánh giá khẩn cấp khả năng xử lý sự cố an toàn thông tin liên quan đến AI.

Báo cáo đưa ra 18 khuyến nghị, trong đó đề xuất buộc doanh nghiệp thông báo khi mô hình gặp sự cố bảo mật hoặc có hành vi lệch khỏi mục tiêu và giới hạn an toàn đã đặt ra. Những trường hợp vi phạm nghĩa vụ quản lý đặc biệt nghiêm trọng có thể bị xem xét áp dụng chế tài hình sự.

Một đề xuất đáng chú ý khác là xây dựng tội danh độc lập về việc không ngăn chặn tác hại. Theo hướng này, doanh nghiệp phát triển mô hình có hành vi gây hại có thể phải chịu trách nhiệm nếu không thực hiện các bước phòng ngừa hợp lý. Phạm vi đó khác với việc chỉ trừng phạt hành vi cố ý tung sản phẩm nguy hiểm ra thị trường. Báo cáo đề nghị hai bộ cùng Cảnh sát Liên bang Úc xem xét cải cách, nên khả năng triển khai, thời điểm và nội dung cuối cùng vẫn chưa rõ.

Cũng trong ngày 10/11, Úc đề xuất thành lập một cơ quan quản lý AI mới với sáu nhóm nghĩa vụ dành cho doanh nghiệp: duy trì kiểm soát bảo mật suốt quá trình phát triển và triển khai; nhận diện, quản lý rủi ro nghiêm trọng; cho phép đánh giá độc lập; nhanh chóng thông báo sự cố cho chính phủ; duy trì và công bố khuôn khổ an toàn, bảo mật; đồng thời đáp ứng các tiêu chuẩn, quy tắc được cập nhật theo tiến bộ công nghệ.

Đánh giá độc lập có nghĩa là mô hình được bên ngoài kiểm tra, thay vì chỉ dựa vào cam kết của nhà phát triển. Nếu cơ chế giám sát này đủ sức cải thiện hành vi của doanh nghiệp, Canberra có thể không cần tiến xa hơn với các biện pháp hình sự.

Chính phủ của Thủ tướng Anthony Albanese đồng thời muốn thu hút các hãng AI hàng đầu đầu tư vào trung tâm dữ liệu tại Úc, đặc biệt là cơ sở huấn luyện và vận hành những mô hình tiên tiến nhất. Trung tâm dữ liệu là nơi tập trung máy chủ và hạ tầng tính toán; còn mô hình AI tiên tiến nhất là nhóm hệ thống nằm ở tuyến đầu về năng lực công nghệ.

Đưa hạ tầng này về trong nước không chỉ mang lại vốn đầu tư. Về lý thuyết, nó còn giúp Úc duy trì khả năng tiếp cận AI hiện đại nếu chiến tranh hoặc đổ vỡ quan hệ ngoại giao làm gián đoạn dịch vụ đặt ở nước ngoài. Tuy nhiên, triển vọng chịu trách nhiệm hình sự cũng có thể khiến lãnh đạo doanh nghiệp thận trọng hơn khi quyết định đầu tư.

Hàn Quốc và Ấn Độ đang giải quyết rủi ro phụ thuộc bằng cách xây dựng hạ tầng AI chủ quyền và thúc đẩy mô hình tiên tiến được huấn luyện bằng dữ liệu trong nước, nhất là dữ liệu ngôn ngữ bản địa. AI chủ quyền có thể hiểu là năng lực phát triển, vận hành và kiểm soát AI gắn với hạ tầng, dữ liệu và quyền quản lý của một quốc gia.

Úc khó theo đuổi mức đầu tư tương tự mà không tạo thêm sức ép lên lạm phát. Trong khi đó, các cuộc phản đối trung tâm dữ liệu đã xuất hiện rộng rãi trong nước. Canberra vì thế phải cân bằng ba mục tiêu không dễ dung hòa: kiểm soát tác hại của AI, thu hút hạ tầng chiến lược và duy trì sự chấp thuận của cộng đồng.