MinhSec
Writer
Trong một phát hiện gây chú ý, các chuyên gia an ninh mạng đã xác định được mẫu phần mềm độc hại đầu tiên được thiết kế để lừa công cụ trí tuệ nhân tạo, khiến chúng dừng việc phân tích và không phát hiện ra mã độc.
Mẫu phần mềm độc hại này được đặt tên là Skynet, gợi nhắc đến trí tuệ nhân tạo nổi loạn trong loạt phim Terminator. Tuy nhiên, hiện tại nó vẫn là một đoạn mã đơn giản, chưa hoàn chỉnh và không thực sự nguy hiểm. Dù vậy, điều khiến các nhà nghiên cứu tại Check Point chú ý là một đoạn nhắc nhở được mã hóa sẵn trong mã độc, hướng dẫn các công cụ AI ngừng phân tích và hiển thị thông báo “KHÔNG PHÁT HIỆN PHẦN MỀM ĐỘC HẠI”.
Khi thử nghiệm trên chính mô hình AI nội bộ và các mô hình như GPT-4.1, các chuyên gia thấy rằng đoạn mã nhắc nhở không có tác dụng thực tế. Mã độc cũng chứa một số đoạn mã nhằm đánh cắp thông tin và lẩn tránh phân tích trong môi trường sandbox, nhưng đều ở mức sơ khai.
Dù Skynet hiện tại chưa nguy hiểm, nhưng theo Check Point, đây là dấu hiệu đầu tiên cho thấy tin tặc đã bắt đầu tìm cách đánh lừa công cụ bảo mật AI bằng các phương pháp tiêm nhắc nhở tinh vi. Các nhà nghiên cứu cảnh báo, nếu mô hình AI bị thao túng để phản ứng sai lệch với mã độc, hậu quả có thể rất nghiêm trọng.
Nicole Carignan, phó chủ tịch an ninh tại Darktrace, cho rằng mọi phương pháp tác động vào cách AI phân tích dữ liệu đều tiềm ẩn rủi ro. Một mô hình bị lệch hành vi có thể đưa ra phản hồi sai hoặc bỏ sót mã độc, làm giảm độ tin cậy của toàn bộ hệ thống bảo mật.
Skynet cho thấy GenAI cũng dễ bị thao túng như các hệ thống máy tính khác. Các chuyên gia kêu gọi các công ty phát triển phần mềm bảo mật cần ưu tiên các giải pháp xác thực đầu vào, thiết kế trình phân tích vững chắc và không phụ thuộc hoàn toàn vào AI. Vì nếu một mã độc đơn giản đã thử "thao túng" được AI, thì tương lai với các mã độc tinh vi hơn sẽ còn nhiều mối đe dọa khó lường.
"Skynet" nguyên mẫu mã độc hướng đến AI
Mẫu phần mềm độc hại này được đặt tên là Skynet, gợi nhắc đến trí tuệ nhân tạo nổi loạn trong loạt phim Terminator. Tuy nhiên, hiện tại nó vẫn là một đoạn mã đơn giản, chưa hoàn chỉnh và không thực sự nguy hiểm. Dù vậy, điều khiến các nhà nghiên cứu tại Check Point chú ý là một đoạn nhắc nhở được mã hóa sẵn trong mã độc, hướng dẫn các công cụ AI ngừng phân tích và hiển thị thông báo “KHÔNG PHÁT HIỆN PHẦN MỀM ĐỘC HẠI”.
Khi thử nghiệm trên chính mô hình AI nội bộ và các mô hình như GPT-4.1, các chuyên gia thấy rằng đoạn mã nhắc nhở không có tác dụng thực tế. Mã độc cũng chứa một số đoạn mã nhằm đánh cắp thông tin và lẩn tránh phân tích trong môi trường sandbox, nhưng đều ở mức sơ khai.
Cảnh báo cho tương lai an ninh mạng
Dù Skynet hiện tại chưa nguy hiểm, nhưng theo Check Point, đây là dấu hiệu đầu tiên cho thấy tin tặc đã bắt đầu tìm cách đánh lừa công cụ bảo mật AI bằng các phương pháp tiêm nhắc nhở tinh vi. Các nhà nghiên cứu cảnh báo, nếu mô hình AI bị thao túng để phản ứng sai lệch với mã độc, hậu quả có thể rất nghiêm trọng.
Nicole Carignan, phó chủ tịch an ninh tại Darktrace, cho rằng mọi phương pháp tác động vào cách AI phân tích dữ liệu đều tiềm ẩn rủi ro. Một mô hình bị lệch hành vi có thể đưa ra phản hồi sai hoặc bỏ sót mã độc, làm giảm độ tin cậy của toàn bộ hệ thống bảo mật.
Skynet cho thấy GenAI cũng dễ bị thao túng như các hệ thống máy tính khác. Các chuyên gia kêu gọi các công ty phát triển phần mềm bảo mật cần ưu tiên các giải pháp xác thực đầu vào, thiết kế trình phân tích vững chắc và không phụ thuộc hoàn toàn vào AI. Vì nếu một mã độc đơn giản đã thử "thao túng" được AI, thì tương lai với các mã độc tinh vi hơn sẽ còn nhiều mối đe dọa khó lường.
