404 Not Found✔
Writer
Trong giới an ninh mạng, việc giao cho AI nhiệm vụ diễn tập tấn công (red teaming) cũng giống như thả một chú chó nghiệp vụ vào sân tập. Nó được huấn luyện để đánh hơi mục tiêu, tìm điểm yếu và không bỏ sót bất kỳ dấu vết nào. Mọi chuyện đều ổn cho đến khi ai đó quên đóng cổng. Khi đó, thay vì kiểm tra các chướng ngại vật trong sân, nó có thể chạy thẳng sang nhà hàng xóm và bắt đầu "làm việc".
Đó gần như chính xác là những gì vừa xảy ra với Meta. Trong quá trình đánh giá an ninh mạng độc lập do công ty Irregular thực hiện, một mô hình AI của hãng đã vô tình truy cập và khai thác thành công hệ thống của một tổ chức bên ngoài sau khi môi trường thử nghiệm bị cấu hình sai, cho phép kết nối trực tiếp ra Internet.
Đó gần như chính xác là những gì vừa xảy ra với Meta. Trong quá trình đánh giá an ninh mạng độc lập do công ty Irregular thực hiện, một mô hình AI của hãng đã vô tình truy cập và khai thác thành công hệ thống của một tổ chức bên ngoài sau khi môi trường thử nghiệm bị cấu hình sai, cho phép kết nối trực tiếp ra Internet.
Theo Meta, mô hình này được triển khai trong một môi trường đánh giá được thiết kế để kiểm tra khả năng phát hiện và khai thác lỗ hổng bảo mật. Về lý thuyết, mọi hoạt động đều phải diễn ra trong phạm vi được kiểm soát và tách biệt hoàn toàn với thế giới bên ngoài. Tuy nhiên, một lỗi cấu hình đã khiến ranh giới đó biến mất.
Điều đáng chú ý là AI không hề tìm cách "vượt ngục" hay tự ý thay đổi nhiệm vụ. Nó đơn giản chỉ làm chính xác những gì được giao. Khi phát hiện các hệ thống có thể tiếp cận, mô hình tiếp tục phân tích, tìm kiếm điểm yếu và thực hiện khai thác. Từ góc nhìn của AI, hệ thống bên ngoài không khác gì một mục tiêu khác xuất hiện trong phạm vi hoạt động.
Oái oăm ở chỗ, sự cố này không phản ánh việc AI trở nên nguy hiểm hơn dự kiến, mà lại cho thấy nó đang hoàn thành nhiệm vụ quá hiệu quả. Meta xây dựng mô hình để tìm lỗ hổng bảo mật, và mô hình đã làm được điều đó. Chỉ có điều lỗ hổng đầu tiên dẫn đến sự cố lại nằm ở chính môi trường thử nghiệm do con người thiết lập. Meta không công bố danh tính tổ chức bị ảnh hưởng và cho biết cuộc điều tra vẫn đang được tiến hành. Công ty cũng nhấn mạnh rằng vụ việc chỉ xảy ra trong môi trường đánh giá và không liên quan đến các sản phẩm AI đang được triển khai thực tế cho khách hàng.
Thực tế, Meta không phải là cái tên đầu tiên rơi vào tình huống khó xử này. Irregular cho biết trước đó Anthropic đã ghi nhận nhiều trường hợp các mô hình Claude truy cập Internet từ môi trường thử nghiệm của bên thứ ba và ảnh hưởng tới hệ thống của các tổ chức khác. OpenAI cũng từng thừa nhận một số tác nhân AI trong các cuộc diễn tập an ninh mạng đã tương tác với những dịch vụ nằm ngoài phạm vi dự kiến, bao gồm cả nền tảng Hugging Face.
Điểm chung của những sự cố này là chúng không bắt nguồn từ ý định hay "nhận thức" của AI. Các mô hình hiện nay vẫn chỉ là những hệ thống tối ưu hóa được thiết kế để hoàn thành mục tiêu được giao. Khi được yêu cầu tìm lỗ hổng, chúng sẽ tìm lỗ hổng. Khi được trao công cụ để khai thác, chúng sẽ tận dụng mọi con đường có sẵn để đạt được kết quả.
Sự cố này không cho thấy AI đang trở nên mất kiểm soát, mà cho thấy các biện pháp kiểm soát vẫn chưa theo kịp tốc độ phát triển của AI. Bởi với một tác nhân được tạo ra để tìm lỗ hổng, việc phát hiện và tận dụng một cánh cửa đang mở là điều hoàn toàn bình thường. Vấn đề là cánh cửa đó đáng ra không nên tồn tại ngay từ đầu. Trong kỷ nguyên AI Agent, những lớp phòng vệ như sandboxing, chính sách default-deny hay cơ chế kill-switch không còn là lựa chọn bổ sung, mà đang dần trở thành yêu cầu bắt buộc để bảo đảm một bài kiểm tra trong phòng thí nghiệm không vô tình biến thành sự cố ngoài đời thực.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
