Microsoft cảnh báo: tác nhân AI trên Windows có thể bị tấn công

Duy Linh · 11:56

Tăng tốc triển khai AI trên Windows đang mở ra nhiều khả năng mạnh mẽ nhưng cũng kéo theo những rủi ro an ninh mạng mới mà Microsoft buộc phải cảnh báo. Những tính năng thử nghiệm như Copilot Actions và không gian làm việc dành riêng cho tác nhân đang được phát hành trong bản xem trước riêng tư, đi kèm lời nhấn mạnh rằng các hệ thống tự động này hoạt động khác biệt so với phần mềm truyền thống và có thể tạo ra hướng tấn công hoàn toàn mới.

Microsoft cảnh báo về rủi ro bảo mật trong tính năng AI mới của Agentic

Cách không gian làm việc của tác nhân AI vận hành và rủi ro mới xuất hiện

Trong thiết kế mới, các tác nhân AI không chạy như ứng dụng thông thường mà hoạt động trong một phiên làm việc tách biệt, với tài khoản chuyên dụng riêng, cô lập với tài khoản người dùng. Cách tiếp cận này cho phép phân quyền theo phạm vi và xử lý tác vụ ở chế độ nền trong khi người dùng tiếp tục làm việc. Tuy nhiên, việc tăng mức tự chủ cũng mang lại nhiều thách thức bảo mật.

Tính chất tác nhân thử nghiệm.
Khi người quản trị bật tính năng thử nghiệm, Windows sẽ tạo tài khoản tác nhân và không gian làm việc được phép truy cập các thư mục quen thuộc như Tài liệu, Tải xuống, Màn hình nền, Nhạc, Hình ảnh và Video. Dù có lớp tách biệt, Microsoft thừa nhận ứng dụng AI dạng tác nhân vẫn phải đối mặt các rủi ro mới mà phần mềm truyền thống không gặp phải.

Các thành phần AI.
Lo ngại lớn nhất là tấn công tiêm lệnh chéo (XPIA), khi nội dung độc hại chèn vào giao diện hoặc tài liệu có thể khiến tác nhân bỏ qua hướng dẫn ban đầu, dẫn đến rò rỉ dữ liệu hoặc cài đặt mã độc. Đây là hướng tấn công khác biệt vì khai thác chính khả năng suy luận của mô hình AI. Kèm theo đó, các hạn chế cố hữu như ảo giác khiến tác nhân đôi khi đưa ra hành vi bất thường, làm tăng nguy cơ khi chúng có quyền truy cập tự động vào tệp và ứng dụng của người dùng.

Nguyên tắc bảo mật và chiến lược triển khai thận trọng của Microsoft

Để giảm rủi ro, Microsoft áp dụng ba nguyên tắc: đảm bảo khả năng kiểm chứng hành động, bảo mật và kiểm soát ủy quyền. Mọi hành động của tác nhân phải được ghi lại minh bạch, chống giả mạo và tách biệt rõ với hành động của người dùng. Tác nhân chỉ hoạt động theo đặc quyền tối thiểu, không vượt quá quyền của người dùng khởi tạo và không có quyền quản trị.

Các biện pháp kiểm soát truy cập chi tiết cũng được áp dụng: tác nhân chỉ được truy cập thông tin nhạy cảm trong bối cảnh cụ thể, có thời hạn và phải được người dùng cho phép, chẳng hạn khi tương tác với ứng dụng hoặc trang web nhất định. Ngay cả thực thể quản trị cũng không thể truy cập đặc biệt vào tác nhân ngoài phạm vi tài khoản mà chúng đại diện.

Microsoft triển khai tính năng theo từng giai đoạn, bắt đầu với quyền xem trước hạn chế để thu thập phản hồi. Công ty nhấn mạnh bảo mật cho tác nhân AI không phải tính năng cố định mà là quá trình liên tục cải tiến theo mức độ hoàn thiện của công nghệ. Không gian làm việc của tác nhân hiện hiệu quả hơn các giải pháp máy ảo đầy đủ như Windows Sandbox nhưng vẫn giữ được sự cô lập cần thiết.

Tính năng thử nghiệm được tắt mặc định và yêu cầu quyền quản trị để bật. Microsoft khuyến cáo người dùng cân nhắc kỹ tác động bảo mật trước khi kích hoạt. Bản xem trước tiếp tục thu nhận phản hồi trước khi hãng bổ sung thêm các lớp kiểm soát an ninh và quyền riêng tư chi tiết hơn.

Việc Microsoft công khai rủi ro và nguyên tắc triển khai thể hiện sự cần thiết của cách tiếp cận minh bạch và thận trọng khi AI tác nhân trở thành xu hướng phổ biến trong hệ sinh thái Windows. (gbhackers)

Đọc chi tiết tại đây: https://gbhackers.com/agentic-ai-feature/