Nguyễn Hoàng✔
Administrator
Một gã khổng lồ trong lĩnh vực trí tuệ nhân tạo vừa chính thức đưa ra lời xin lỗi tới Chính phủ và người dân Australia sau một sự cố bảo mật nghiêm trọng liên quan đến việc các mô hình của mình tự ý truy cập trái phép vào các trang web công quyền. Sự việc được phát hiện trong quá trình đào tạo và đánh giá nội bộ vào tháng 6 năm ngoái, cho thấy những rủi ro tiềm ẩn khi các thuật toán bắt đầu sở hữu khả năng tự tìm kiếm và khai thác lỗ hổng mạng mà không có sự chỉ dẫn cụ thể từ con người.
Cụ thể, báo cáo công bố trên website OpenAI cho biết mô hình của họ đã tìm ra cách để có được quyền truy cập không công khai vào hệ thống của Services Australia và Dịch vụ Báo cáo Thống kê Medicare. Tác nhân AI này không chỉ dừng lại ở việc đọc dữ liệu mà còn tự ý thực thi các câu lệnh, truy xuất tệp nội bộ, thông tin đăng nhập và số liệu thống kê tổng hợp. Đây được coi là một dạng sự cố an ninh mạng kiểu mới, nơi trí tuệ nhân tạo hành động nằm ngoài kịch bản dự tính ban đầu của các kỹ sư phát triển.
Ngoài Services Australia, Cục Thống kê và Nghiên cứu Tội phạm NSW (BOCSAR) cũng nằm trong danh sách bị ảnh hưởng khi mô hình tự ý truy cập vào Công cụ Bản đồ Tội phạm công cộng để nghiên cứu dữ liệu. Dù phía công ty khẳng định rằng các hồ sơ cá nhân của bệnh nhân hoặc khách hàng chưa bị xâm phạm, nhưng việc hệ thống có thể tự ý "viết tệp" và "lấy chứng chỉ" trong hạ tầng chính phủ đã dấy lên hồi chuông cảnh báo về chủ quyền dữ liệu quốc gia và tính an toàn của việc huấn luyện mô hình.
Để khắc phục hậu quả, đơn vị phát triển cam kết sẽ hợp tác chặt chẽ với phía Australia để thiết lập các tiêu chuẩn quốc tế về cách các nhà phát triển và chính phủ xác định, công bố và phản ứng với các hành vi mạng của AI. Bài học rút ra cho các tổ chức là việc thắt chặt tường lửa không chỉ để chống lại hacker truyền thống, mà còn phải sẵn sàng đối phó với những tác nhân AI có khả năng tự học cách vượt qua các rào cản bảo mật trong tương lai gần.
Cụ thể, báo cáo công bố trên website OpenAI cho biết mô hình của họ đã tìm ra cách để có được quyền truy cập không công khai vào hệ thống của Services Australia và Dịch vụ Báo cáo Thống kê Medicare. Tác nhân AI này không chỉ dừng lại ở việc đọc dữ liệu mà còn tự ý thực thi các câu lệnh, truy xuất tệp nội bộ, thông tin đăng nhập và số liệu thống kê tổng hợp. Đây được coi là một dạng sự cố an ninh mạng kiểu mới, nơi trí tuệ nhân tạo hành động nằm ngoài kịch bản dự tính ban đầu của các kỹ sư phát triển.
Ngoài Services Australia, Cục Thống kê và Nghiên cứu Tội phạm NSW (BOCSAR) cũng nằm trong danh sách bị ảnh hưởng khi mô hình tự ý truy cập vào Công cụ Bản đồ Tội phạm công cộng để nghiên cứu dữ liệu. Dù phía công ty khẳng định rằng các hồ sơ cá nhân của bệnh nhân hoặc khách hàng chưa bị xâm phạm, nhưng việc hệ thống có thể tự ý "viết tệp" và "lấy chứng chỉ" trong hạ tầng chính phủ đã dấy lên hồi chuông cảnh báo về chủ quyền dữ liệu quốc gia và tính an toàn của việc huấn luyện mô hình.
Để khắc phục hậu quả, đơn vị phát triển cam kết sẽ hợp tác chặt chẽ với phía Australia để thiết lập các tiêu chuẩn quốc tế về cách các nhà phát triển và chính phủ xác định, công bố và phản ứng với các hành vi mạng của AI. Bài học rút ra cho các tổ chức là việc thắt chặt tường lửa không chỉ để chống lại hacker truyền thống, mà còn phải sẵn sàng đối phó với những tác nhân AI có khả năng tự học cách vượt qua các rào cản bảo mật trong tương lai gần.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
