Sai lầm nghiêm trọng khi doanh nghiệp triển khai AI đại diện mà bỏ quên lớp bảo mật quan trọng này

Duy Linh · 11:05

Cuộc đua triển khai AI đại diện đang diễn ra mạnh mẽ khi doanh nghiệp liên tục tích hợp các hệ thống có khả năng lập kế hoạch, hành động và phối hợp trên nhiều ứng dụng khác nhau. Những nền tảng này hứa hẹn hiệu quả vượt trội, nhưng quá trình tự động hóa vội vã lại khiến một yếu tố quan trọng bị xem nhẹ: bảo mật có khả năng mở rộng. Chúng ta đang tạo ra một lực lượng lao động kỹ thuật số nhưng chưa cung cấp cho họ cơ chế đăng nhập an toàn, truy cập dữ liệu đúng cách và thực thi nhiệm vụ mà không tạo ra rủi ro nghiêm trọng.

Vấn đề nằm ở hệ thống quản lý danh tính và truy cập (IAM) truyền thống vốn được thiết kế cho con người. Các kiểm soát cũ như vai trò tĩnh, mật khẩu dài hạn hay phê duyệt một lần trở nên lỗi thời khi số lượng danh tính phi con người có thể vượt con người gấp 10 lần. Để sử dụng hiệu quả AI tác nhân, danh tính phải được phát triển từ một cổng đăng nhập đơn giản thành một mặt phẳng điều khiển động cho toàn bộ hoạt động AI.

Như Shawn Kanungo diễn giả chính, chiến lược gia đổi mới và tác giả The Bold Ones nhấn mạnh: “Con đường nhanh nhất để có một AI có trách nhiệm là tránh xa dữ liệu thực. Hãy dùng dữ liệu tổng hợp để chứng minh giá trị trước, rồi mới tiến tới dữ liệu thật.”

Tại sao IAM cũ trở thành mục tiêu dễ bị tấn công

Agentic AI không còn chỉ là phần mềm mà hoạt động như một người dùng: nó đăng nhập vào hệ thống, đảm nhận vai trò và gọi API. Nếu doanh nghiệp chỉ xem các tác nhân là tính năng nhỏ trong ứng dụng, họ sẽ vô tình tạo ra đặc quyền ẩn và hành động không thể theo dõi. Một tác nhân được cấp phép quá mức có thể đánh cắp dữ liệu hoặc làm sai lệch quy trình kinh doanh với tốc độ máy, và không ai nhận ra cho đến khi hậu quả xảy ra.

Điểm yếu lớn nhất của IAM truyền thống chính là tính tĩnh. Bạn không thể đặt một vai trò cố định cho tác nhân có nhiệm vụ thay đổi liên tục mỗi ngày. Cách duy nhất để đưa ra quyết định truy cập chính xác là chuyển từ cấp quyền cố định sang đánh giá theo thời gian thực.

Đây là lúc việc chứng minh giá trị trước bằng dữ liệu tổng hợp trở nên quan trọng. Bằng cách thử nghiệm trên dữ liệu che dấu, doanh nghiệp có thể xác thực phạm vi hoạt động của tác nhân, chính sách, nhật ký và đường dẫn “break-glass”. Khi mọi thứ vận hành ổn định, việc chuyển sang dữ liệu thật sẽ an toàn hơn và vẫn có bằng chứng kiểm toán rõ ràng.

Ba trụ cột của bảo mật tác nhân có khả năng mở rộng

Ủy quyền dựa trên ngữ cảnh là trung tâm của mô hình này. Ủy quyền không chỉ là câu trả lời “được” hoặc “không”. Hệ thống phải liên tục đánh giá trạng thái kỹ thuật số của tác nhân, mục đích truy cập và thời điểm truy cập để đảm bảo đúng người, đúng lúc, đúng dữ liệu.

Truy cập dữ liệu có mục đích tại biên là lớp bảo vệ cuối cùng. Bằng cách tích hợp thực thi chính sách vào công cụ truy vấn dữ liệu, doanh nghiệp có thể giới hạn quyền truy cập cấp hàng, cấp cột theo đúng mục đích công việc. Ví dụ, tác nhân hỗ trợ khách hàng không thể chạy truy vấn phân tích tài chính.

Bằng chứng chống giả mạo là yêu cầu bắt buộc. Mọi truy cập, truy vấn và lệnh gọi API phải được ghi lại bất biến, kèm theo nội dung ai, làm gì, ở đâu, vì sao. Nhật ký cần được liên kết để chống sửa đổi và hỗ trợ điều tra, kiểm toán.

Lộ trình để bắt đầu
• Kiểm kê toàn bộ danh tính phi con người, loại bỏ chia sẻ tài khoản và cấp phát quá mức.
• Cấp danh tính riêng cho từng tác nhân.
• Triển khai nền tảng cấp quyền tức thời để thử nghiệm dự án nhỏ.
• Chỉ dùng thông tin xác thực ngắn hạn; xóa khóa API và bí mật tĩnh khỏi hệ thống.
• Thiết lập môi trường hộp cát dùng dữ liệu tổng hợp để kiểm tra tác nhân trước khi chuyển sang dữ liệu thật.
• Tổ chức diễn tập ứng phó sự cố nhằm đảm bảo khả năng thu hồi quyền truy cập và cô lập tác nhân nhanh chóng.

Không thể vận hành một tương lai do AI tác nhân điều khiển bằng công cụ nhận dạng dành cho con người. Doanh nghiệp chiến thắng sẽ xem nhận dạng là “hệ thần kinh” của toàn bộ hoạt động AI. Khi danh tính trở thành mặt phẳng điều khiển, cấp phép chuyển sang thời gian thực, truy cập dữ liệu gắn với mục đích và giá trị được chứng minh bằng dữ liệu tổng hợp, doanh nghiệp có thể mở rộng lên hàng triệu tác nhân mà không phải lo rủi ro vi phạm. (venturebeat)

Đọc chi tiết tại đây: https://venturebeat.com/security/hu...ng-agentic-ai-requires-a-new-identity-control