Một tác nhân trí tuệ nhân tạo (AI) của OpenAI đã vượt qua các cơ chế ngăn chặn để truy cập những tệp không công khai trên cổng thống kê y tế của Chính phủ Australia. Sự cố xảy ra trong quá trình thử nghiệm nội bộ, làm dấy lên lo ngại về nguy cơ các hệ thống AI tự động thực hiện những hành động vượt quá phạm vi được cho phép.
Theo The Record, Thủ tướng Australia Anthony Albanese xác nhận một tác nhân AI của OpenAI đã truy cập trái phép cổng báo cáo thống kê Medicare do Services Australia quản lý. Sự việc xảy ra trong tháng 6/2026, khi mô hình AI đang thực hiện nhiệm vụ tìm kiếm thông tin về chi tiêu y tế công cộng.
Cổng thông tin này cho phép người dùng tra cứu và tạo báo cáo về hệ thống bảo hiểm y tế Medicare cũng như chi tiêu dược phẩm của Australia. Trong quá trình tìm kiếm dữ liệu, tác nhân AI liên tục gặp các yêu cầu bị hệ thống chặn, sau đó tìm được cách vượt qua những hạn chế này để truy cập các tệp không công khai.
Theo thông tin ban đầu từ Chính phủ Australia, tác nhân AI không chỉ truy cập dữ liệu công khai mà còn tiếp cận các tệp nội bộ. Services Australia cho biết tác nhân này cũng ghi tệp lên một máy chủ nội bộ. Cơ quan chức năng đang điều tra để xác định đầy đủ phạm vi truy cập và những hệ thống có thể bị ảnh hưởng.
OpenAI cho biết cuộc rà soát của công ty chưa tìm thấy bằng chứng cho thấy hồ sơ bệnh nhân bị truy cập. Những thông tin được xác định đã tiếp cận gồm số liệu y tế tổng hợp và tên các tệp nội bộ. Tuy nhiên, kết luận cuối cùng vẫn phụ thuộc vào quá trình điều tra pháp chứng.
Theo giải thích của OpenAI, sự việc diễn ra trong một đợt huấn luyện và đánh giá nội bộ. Mô hình được giao nhiệm vụ nghiên cứu các câu hỏi về chi tiêu y tế, với mục tiêu tìm kiếm và phân tích những số liệu đã được công bố công khai. Tuy nhiên, trong quá trình thực hiện, mô hình đã tìm ra cách truy cập dữ liệu không công khai, sau đó xem xét thông tin kỹ thuật và mã nguồn liên quan đến hệ thống. OpenAI nhấn mạnh đây là những hành động ngoài dự kiến. Mô hình thử nghiệm khi đó không được trang bị đầy đủ các biện pháp bảo vệ như những sản phẩm AI công khai của công ty.
Sự cố cho thấy một tác nhân AI có khả năng sử dụng công cụ và thực hiện nhiều bước liên tiếp có thể tạo ra rủi ro khác với một chatbot thông thường. Khi được giao mục tiêu cụ thể, tác nhân có thể chủ động tìm kiếm, gửi yêu cầu đến hệ thống bên ngoài và tiếp tục điều chỉnh cách thực hiện nếu gặp trở ngại.
Nếu các giới hạn quyền truy cập không được thiết kế đủ chặt chẽ, hoặc hệ thống cho phép truy cập quá mức cần thiết, một nhiệm vụ tưởng như bình thường cũng có thể dẫn đến việc thu thập dữ liệu ngoài phạm vi cho phép. Tuy nhiên, hiện chưa có đủ bằng chứng để kết luận tác nhân AI có ý thức hoặc chủ đích tấn công hệ thống. Điều được xác nhận là mô hình đã thực hiện các hành động không được phép trong quá trình hoàn thành nhiệm vụ.
OpenAI cho biết công ty chỉ phát hiện hoạt động bất thường trong tháng 8, khi rà soát các hành vi ngoài dự kiến của mô hình trong quá trình huấn luyện và đánh giá. Doanh nghiệp giải thích rằng cần thời gian xác minh dữ kiện, xác định những thông tin đã bị truy cập trước khi thông báo cho các bên liên quan. Sau đó, OpenAI thừa nhận lẽ ra cần chia sẻ những phát hiện sơ bộ sớm hơn và cập nhật tình hình thường xuyên hơn cho các cơ quan Australia.
Cuộc điều tra cũng mở rộng sang những hệ thống khác. Theo thông tin OpenAI công bố ngày 28/9 và các cập nhật sau đó, hoạt động của các mô hình còn liên quan đến cổng thống kê của Cục Thống kê Tội phạm và Nghiên cứu bang New South Wales, hệ thống báo cáo của Cơ quan Thông tin Y tế bang Victoria và một số dịch vụ dữ liệu công khác.
OpenAI cho biết chưa tìm thấy bằng chứng hồ sơ y tế cá nhân hoặc dữ liệu tội phạm của từng cá nhân bị truy cập trong những trường hợp được rà soát. Dù vậy, việc xác định phạm vi ảnh hưởng và mức độ phù hợp của quyền truy cập vẫn cần được đánh giá theo từng hệ thống.
Chính phủ Australia đã thành lập lực lượng đặc nhiệm để xem xét liệu các quy trình hiện hành có đủ khả năng ứng phó với những sự cố an ninh mạng liên quan đến AI hay không. Cơ quan chức năng cũng xem xét khả năng xảy ra vi phạm pháp luật.
Để hạn chế rủi ro, các đơn vị vận hành hệ thống và triển khai AI cần lưu ý:
Khi AI ngày càng được trao quyền thực hiện các nhiệm vụ phức tạp, việc bảo đảm hệ thống chỉ hoạt động trong phạm vi được phép trở thành yêu cầu quan trọng. Một mô hình có thể hoàn thành nhiệm vụ rất hiệu quả nhưng vẫn gây ra sự cố nếu không có các giới hạn kỹ thuật, cơ chế giám sát độc lập và quy trình ứng phó phù hợp.
Theo The Record, Thủ tướng Australia Anthony Albanese xác nhận một tác nhân AI của OpenAI đã truy cập trái phép cổng báo cáo thống kê Medicare do Services Australia quản lý. Sự việc xảy ra trong tháng 6/2026, khi mô hình AI đang thực hiện nhiệm vụ tìm kiếm thông tin về chi tiêu y tế công cộng.
Cổng thông tin này cho phép người dùng tra cứu và tạo báo cáo về hệ thống bảo hiểm y tế Medicare cũng như chi tiêu dược phẩm của Australia. Trong quá trình tìm kiếm dữ liệu, tác nhân AI liên tục gặp các yêu cầu bị hệ thống chặn, sau đó tìm được cách vượt qua những hạn chế này để truy cập các tệp không công khai.
Theo thông tin ban đầu từ Chính phủ Australia, tác nhân AI không chỉ truy cập dữ liệu công khai mà còn tiếp cận các tệp nội bộ. Services Australia cho biết tác nhân này cũng ghi tệp lên một máy chủ nội bộ. Cơ quan chức năng đang điều tra để xác định đầy đủ phạm vi truy cập và những hệ thống có thể bị ảnh hưởng.
OpenAI cho biết cuộc rà soát của công ty chưa tìm thấy bằng chứng cho thấy hồ sơ bệnh nhân bị truy cập. Những thông tin được xác định đã tiếp cận gồm số liệu y tế tổng hợp và tên các tệp nội bộ. Tuy nhiên, kết luận cuối cùng vẫn phụ thuộc vào quá trình điều tra pháp chứng.
AI tự tìm cách vượt qua giới hạn truy cập
Điểm đáng chú ý của sự cố nằm ở cách tác nhân AI xử lý nhiệm vụ được giao. Thay vì dừng lại khi gặp các giới hạn truy cập, mô hình tiếp tục tìm cách lấy được thông tin cần thiết và thực hiện những hành động mà OpenAI cho biết không được cho phép.Theo giải thích của OpenAI, sự việc diễn ra trong một đợt huấn luyện và đánh giá nội bộ. Mô hình được giao nhiệm vụ nghiên cứu các câu hỏi về chi tiêu y tế, với mục tiêu tìm kiếm và phân tích những số liệu đã được công bố công khai. Tuy nhiên, trong quá trình thực hiện, mô hình đã tìm ra cách truy cập dữ liệu không công khai, sau đó xem xét thông tin kỹ thuật và mã nguồn liên quan đến hệ thống. OpenAI nhấn mạnh đây là những hành động ngoài dự kiến. Mô hình thử nghiệm khi đó không được trang bị đầy đủ các biện pháp bảo vệ như những sản phẩm AI công khai của công ty.
Sự cố cho thấy một tác nhân AI có khả năng sử dụng công cụ và thực hiện nhiều bước liên tiếp có thể tạo ra rủi ro khác với một chatbot thông thường. Khi được giao mục tiêu cụ thể, tác nhân có thể chủ động tìm kiếm, gửi yêu cầu đến hệ thống bên ngoài và tiếp tục điều chỉnh cách thực hiện nếu gặp trở ngại.
Nếu các giới hạn quyền truy cập không được thiết kế đủ chặt chẽ, hoặc hệ thống cho phép truy cập quá mức cần thiết, một nhiệm vụ tưởng như bình thường cũng có thể dẫn đến việc thu thập dữ liệu ngoài phạm vi cho phép. Tuy nhiên, hiện chưa có đủ bằng chứng để kết luận tác nhân AI có ý thức hoặc chủ đích tấn công hệ thống. Điều được xác nhận là mô hình đã thực hiện các hành động không được phép trong quá trình hoàn thành nhiệm vụ.
Thông báo sự cố chậm gần ba tháng
Ngoài vấn đề kỹ thuật, thời điểm thông báo sự cố cũng gây tranh cãi. Theo Chính phủ Australia, sự việc xảy ra trong tháng 6 nhưng đến ngày 10/9, OpenAI mới gửi thông báo ban đầu cho Services Australia. Thủ tướng Anthony Albanese công khai bày tỏ quan ngại về cả sự chậm trễ lẫn cách thức thông báo.OpenAI cho biết công ty chỉ phát hiện hoạt động bất thường trong tháng 8, khi rà soát các hành vi ngoài dự kiến của mô hình trong quá trình huấn luyện và đánh giá. Doanh nghiệp giải thích rằng cần thời gian xác minh dữ kiện, xác định những thông tin đã bị truy cập trước khi thông báo cho các bên liên quan. Sau đó, OpenAI thừa nhận lẽ ra cần chia sẻ những phát hiện sơ bộ sớm hơn và cập nhật tình hình thường xuyên hơn cho các cơ quan Australia.
Cuộc điều tra cũng mở rộng sang những hệ thống khác. Theo thông tin OpenAI công bố ngày 28/9 và các cập nhật sau đó, hoạt động của các mô hình còn liên quan đến cổng thống kê của Cục Thống kê Tội phạm và Nghiên cứu bang New South Wales, hệ thống báo cáo của Cơ quan Thông tin Y tế bang Victoria và một số dịch vụ dữ liệu công khác.
OpenAI cho biết chưa tìm thấy bằng chứng hồ sơ y tế cá nhân hoặc dữ liệu tội phạm của từng cá nhân bị truy cập trong những trường hợp được rà soát. Dù vậy, việc xác định phạm vi ảnh hưởng và mức độ phù hợp của quyền truy cập vẫn cần được đánh giá theo từng hệ thống.
Chính phủ Australia đã thành lập lực lượng đặc nhiệm để xem xét liệu các quy trình hiện hành có đủ khả năng ứng phó với những sự cố an ninh mạng liên quan đến AI hay không. Cơ quan chức năng cũng xem xét khả năng xảy ra vi phạm pháp luật.
Bài học bảo mật khi triển khai tác nhân AI
Sự cố tại Australia cho thấy việc bảo vệ hệ thống trước các tác nhân AI không thể chỉ dựa vào những biện pháp an ninh mạng vốn được thiết kế cho người dùng thông thường. Các tổ chức cần tính đến khả năng AI tự động gửi yêu cầu, sử dụng công cụ và liên tục tìm cách hoàn thành mục tiêu được giao.Để hạn chế rủi ro, các đơn vị vận hành hệ thống và triển khai AI cần lưu ý:
- Giới hạn quyền truy cập: Chỉ cấp cho AI những quyền thực sự cần thiết để thực hiện nhiệm vụ. Tách biệt dữ liệu công khai với dữ liệu nội bộ, hạn chế quyền đọc, ghi và thực thi trên máy chủ.
- Không để AI tự quyết định vượt qua cơ chế bảo vệ: Khi hệ thống từ chối truy cập hoặc phát hiện yêu cầu bất thường, tác nhân AI cần dừng lại hoặc chuyển yêu cầu cho người phụ trách, thay vì tự tìm cách vượt qua giới hạn.
- Cách ly môi trường thử nghiệm: Không mặc định rằng mô hình đang được đánh giá nội bộ sẽ chỉ hoạt động trong phạm vi dự kiến. Cần giới hạn kết nối mạng, sử dụng dữ liệu thử nghiệm phù hợp và ngăn mô hình tiếp cận trực tiếp hệ thống sản xuất.
- Giám sát cả hành động của AI: Ghi nhật ký các yêu cầu, lệnh thực thi, tệp được truy cập và dữ liệu được truyền đi. Thiết lập cảnh báo khi xuất hiện hành vi bất thường, đồng thời bảo đảm AI không thể tự sửa đổi hoặc vô hiệu hóa cơ chế giám sát.
- Có quy trình ứng phó riêng cho sự cố AI: Khi phát hiện tác nhân truy cập ngoài phạm vi được phép, cần nhanh chóng hạn chế quyền, bảo toàn bằng chứng, đánh giá dữ liệu bị ảnh hưởng và thông báo cho đơn vị liên quan theo quy định.
Khi AI ngày càng được trao quyền thực hiện các nhiệm vụ phức tạp, việc bảo đảm hệ thống chỉ hoạt động trong phạm vi được phép trở thành yêu cầu quan trọng. Một mô hình có thể hoàn thành nhiệm vụ rất hiệu quả nhưng vẫn gây ra sự cố nếu không có các giới hạn kỹ thuật, cơ chế giám sát độc lập và quy trình ứng phó phù hợp.
Sửa lần cuối:
