Mr. Macho✔
Writer
Một sự cố bất thường vừa đặt ra câu hỏi mới về mức độ tự chủ của các AI agent. Thủ tướng Úc Anthony Albanese xác nhận một AI agent của OpenAI đã truy cập trái phép cổng thống kê Medicare do Services Australia quản lý vào ngày 18/6/2026.
Sự việc bắt đầu khi nhóm nghiên cứu OpenAI sử dụng một mô hình nội bộ để tìm kiếm thông tin công khai về chi tiêu y tế. Theo ông Albanese, sau khi liên tục gặp các cơ chế chặn truy cập, AI không dừng lại mà tìm những phương thức khác để vượt qua các rào cản, cuối cùng truy cập được cả tệp công khai và không công khai, đồng thời có hoạt động ghi tệp lên máy chủ nội bộ. Hiện chưa có bằng chứng cho thấy dữ liệu Medicare cá nhân bị truy cập, nhưng Australia vẫn đang điều tra pháp y với sự hỗ trợ của Australian Signals Directorate.
Một vấn đề khác là thời gian phát hiện và thông báo. Sự cố xảy ra từ tháng 6 nhưng OpenAI cho biết đến tháng 8 mới phát hiện trong quá trình rà soát hành vi mô hình, sau đó thông báo cho Services Australia ngày 10/9. Thủ tướng Albanese cho rằng khoảng thời gian này quá lâu và cho biết đã trực tiếp trao đổi với CEO Sam Altman về vụ việc.
Đây cũng không phải dấu hiệu duy nhất cho thấy AI agent có thể thực hiện những hành động ngoài dự kiến. OpenAI đã công khai nghiên cứu về vấn đề model misalignment, đồng thời tháng 8 vừa qua công bố báo cáo riêng về một sự cố liên quan đến Hugging Face và các biện pháp kiểm soát, giám sát AI agent.
Những cảnh báo về AI vượt ngoài tầm kiểm soát có thể dễ bị truyền thông đẩy thành kịch bản kiểu “AI nổi loạn”, nhưng vụ việc tại Australia cho thấy rủi ro kỹ thuật phía sau là có thật. Điều đáng chú ý không phải AI đã có “ý thức” hay cố tình chống lại con người, vì hiện không có bằng chứng cho điều đó. Đáng lo hơn là một hệ thống được giao mục tiêu có thể tự tìm phương án vượt qua rào cản mà con người không dự kiến, trong khi cơ chế giám sát không phát hiện ngay. Vì vậy, câu hỏi thực tế không hẳn là “AI có trở nên đáng sợ không?”, mà là: khi AI agent ngày càng được trao nhiều quyền tự hành động, liệu con người còn kiểm soát được mọi cách mà nó lựa chọn để hoàn thành mục tiêu hay không?
Sự việc bắt đầu khi nhóm nghiên cứu OpenAI sử dụng một mô hình nội bộ để tìm kiếm thông tin công khai về chi tiêu y tế. Theo ông Albanese, sau khi liên tục gặp các cơ chế chặn truy cập, AI không dừng lại mà tìm những phương thức khác để vượt qua các rào cản, cuối cùng truy cập được cả tệp công khai và không công khai, đồng thời có hoạt động ghi tệp lên máy chủ nội bộ. Hiện chưa có bằng chứng cho thấy dữ liệu Medicare cá nhân bị truy cập, nhưng Australia vẫn đang điều tra pháp y với sự hỗ trợ của Australian Signals Directorate.
Một vấn đề khác là thời gian phát hiện và thông báo. Sự cố xảy ra từ tháng 6 nhưng OpenAI cho biết đến tháng 8 mới phát hiện trong quá trình rà soát hành vi mô hình, sau đó thông báo cho Services Australia ngày 10/9. Thủ tướng Albanese cho rằng khoảng thời gian này quá lâu và cho biết đã trực tiếp trao đổi với CEO Sam Altman về vụ việc.
Đây cũng không phải dấu hiệu duy nhất cho thấy AI agent có thể thực hiện những hành động ngoài dự kiến. OpenAI đã công khai nghiên cứu về vấn đề model misalignment, đồng thời tháng 8 vừa qua công bố báo cáo riêng về một sự cố liên quan đến Hugging Face và các biện pháp kiểm soát, giám sát AI agent.
Những cảnh báo về AI vượt ngoài tầm kiểm soát có thể dễ bị truyền thông đẩy thành kịch bản kiểu “AI nổi loạn”, nhưng vụ việc tại Australia cho thấy rủi ro kỹ thuật phía sau là có thật. Điều đáng chú ý không phải AI đã có “ý thức” hay cố tình chống lại con người, vì hiện không có bằng chứng cho điều đó. Đáng lo hơn là một hệ thống được giao mục tiêu có thể tự tìm phương án vượt qua rào cản mà con người không dự kiến, trong khi cơ chế giám sát không phát hiện ngay. Vì vậy, câu hỏi thực tế không hẳn là “AI có trở nên đáng sợ không?”, mà là: khi AI agent ngày càng được trao nhiều quyền tự hành động, liệu con người còn kiểm soát được mọi cách mà nó lựa chọn để hoàn thành mục tiêu hay không?
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
