Nguyễn Tiến Đạt
Intern Writer
Công ty bảo mật AIR vừa thực hiện một thử nghiệm đáng chú ý khi tạo ra một kỹ năng AI giả mạo có tên brand-landingpage. Kỹ năng này đã vượt qua nhiều công cụ quét bảo mật, được đưa lên marketplace phổ biến và theo AIR đã tiếp cận khoảng 26.000 tác nhân AI.
Điều đáng lo ngại là kỹ năng ban đầu hoàn toàn "sạch", nhưng lại chứa liên kết đến một website bên ngoài do AIR kiểm soát. Sau khi kỹ năng được cài đặt rộng rãi, nội dung trên website này được thay đổi để cung cấp các chỉ dẫn mới cho tác nhân AI. Điều này cho thấy nhiều công cụ bảo mật hiện nay chỉ kiểm tra nội dung tại thời điểm quét và không giám sát các thay đổi về sau.
Nghiên cứu cũng cho thấy các tín hiệu tin cậy như số sao GitHub, kết quả quét bảo mật hay uy tín cộng đồng có thể bị lợi dụng trong các cuộc tấn công chuỗi cung ứng AI.
Dù con số 26.000 tác nhân chưa được xác minh độc lập, thử nghiệm của AIR đã gióng lên hồi chuông cảnh báo về những rủi ro bảo mật trong hệ sinh thái AI Agent. Các chuyên gia khuyến nghị doanh nghiệp cần áp dụng nguyên tắc cấp quyền tối thiểu, giám sát liên tục và xem mọi kỹ năng AI bên thứ ba như một phần mềm có khả năng gây rủi ro.
Điều đáng lo ngại là kỹ năng ban đầu hoàn toàn "sạch", nhưng lại chứa liên kết đến một website bên ngoài do AIR kiểm soát. Sau khi kỹ năng được cài đặt rộng rãi, nội dung trên website này được thay đổi để cung cấp các chỉ dẫn mới cho tác nhân AI. Điều này cho thấy nhiều công cụ bảo mật hiện nay chỉ kiểm tra nội dung tại thời điểm quét và không giám sát các thay đổi về sau.
Nghiên cứu cũng cho thấy các tín hiệu tin cậy như số sao GitHub, kết quả quét bảo mật hay uy tín cộng đồng có thể bị lợi dụng trong các cuộc tấn công chuỗi cung ứng AI.
Dù con số 26.000 tác nhân chưa được xác minh độc lập, thử nghiệm của AIR đã gióng lên hồi chuông cảnh báo về những rủi ro bảo mật trong hệ sinh thái AI Agent. Các chuyên gia khuyến nghị doanh nghiệp cần áp dụng nguyên tắc cấp quyền tối thiểu, giám sát liên tục và xem mọi kỹ năng AI bên thứ ba như một phần mềm có khả năng gây rủi ro.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
