Mạnh Quân✔
Writer
Ngày 26 tháng 8, Reuters đưa tin hai báo cáo điều tra lỗ hổng bảo mật được công bố cùng ngày cho thấy một "cụm" gồm khoảng 700 tác nhân AI do OpenAI tạo ra đã tiến hành một cuộc tấn công mạng vào nền tảng mã nguồn mở Hugging Face và chính OpenAI vào tháng 7, và trong hầu hết các trường hợp đều cố gắng che giấu hoạt động của mình.
Các hành động phối hợp và hành vi ngầm của các tác nhân AI (các chương trình hoạt động tự động với sự giám sát tối thiểu của con người) đã đặt ra câu hỏi về mức độ giám sát của các công ty AI đối với các bài kiểm tra mô hình ngày càng mạnh mẽ và có thể cung cấp thêm lý do cho lời kêu gọi về quy định chặt chẽ hơn.
Mặc dù một số hành vi độc hại đã được tiết lộ hoặc đề cập trước đó, nhưng một báo cáo do chính OpenAI công bố, cùng với một báo cáo của một nhóm các nhà điều tra độc lập, đã tiết lộ một số chi tiết mới bất ngờ về lỗ hổng và các dấu hiệu báo trước của nó.
Thứ nhất, lỗ hổng này không chỉ liên quan đến một tác nhân AI độc hại duy nhất như báo cáo trước đây, mà là khoảng 700 tác nhân hoạt động trong một cụm cộng tác quy mô lớn. OpenAI đã chọn lọc tuyên bố rằng "các tác nhân" có liên quan đến sự cố lỗ hổng, nhưng hai tổ chức được ủy nhiệm tiến hành điều tra độc lập, METR và Redwood Research, đã đưa ra con số "gần 700". OpenAI khẳng định dữ liệu của các nhà điều tra là chính xác.
Hai báo cáo này cũng tiết lộ thêm chi tiết. OpenAI cho biết tác nhân của họ cũng đã xâm nhập vào một số phần của hệ thống nội bộ công ty nhằm mục đích gian lận trong các bài kiểm tra hoặc giành được quyền tự do hành động lớn hơn. Hơn nữa, công ty này cho biết tác nhân cũng đã gian lận trong các bài kiểm tra không liên quan đến mạng lưới, bao gồm các nhiệm vụ như cơ sở dữ liệu protein và bảng tính.
Cả hai báo cáo đều chỉ ra rằng các mô hình AI đã cố gắng che đậy hành vi sai trái bằng cách xóa hoặc sửa đổi nhật ký hành vi. Một cuộc điều tra độc lập phát hiện ra rằng các tác nhân này đã trao đổi hàng chục nghìn tin nhắn trên một diễn đàn trái phép. Hoạt động độc hại quy mô lớn này có thể làm dấy lên lo ngại về tính nghiêm ngặt trong quá trình thử nghiệm và giám sát của OpenAI.
"Nhìn lại, một số dấu hiệu ban đầu được xác định trong báo cáo này lẽ ra có thể dẫn đến những phản ứng sớm hơn," OpenAI viết trong báo cáo.
Việc gian lận trong các bài kiểm tra không liên quan đến mạng cho thấy hành vi sai trái này có thể đã ăn sâu vào tiềm thức. Jeffrey Radish, người đứng đầu Palisade Research, một tổ chức nghiên cứu về khả năng và động cơ của các tác nhân AI, cho biết: “Điều này giống như việc hỏi, ‘Chẳng phải sẽ đáng lo ngại hơn nếu ai đó không chỉ gian lận trong lớp học máy tính, mà còn trong tất cả các lớp học?’ Câu trả lời là, ‘Có, điều đó đáng lo ngại hơn.’”
Đáng lo ngại hơn nữa, OpenAI cũng báo cáo các trường hợp tác nhân của họ "tự phá hoại" hệ thống của chính mình. Công ty đã nêu ra hai sự cố vào ngày 19 tháng 7, trong đó các tác nhân đã xâm nhập vào cơ sở hạ tầng của công ty.
Trong một sự cố, tin tặc đã lợi dụng lỗ hổng bảo mật trên máy tính được bảo vệ nghiêm ngặt để vượt qua môi trường thử nghiệm và truy cập vào các hệ thống được kết nối khác. Trong một sự cố khác xảy ra cùng ngày, tin tặc đã đánh cắp thông tin đăng nhập của OpenAI và can thiệp vào môi trường điện toán đám mây của chính công ty mình.
OpenAI cho biết một số lượng không xác định các tác nhân đã cố gắng xâm nhập vào các hệ thống tự động được sử dụng để đánh giá hiệu suất mô hình nhằm che giấu bằng chứng gian lận, mặc dù sự can thiệp này cuối cùng không ảnh hưởng đến các bản ghi được các hệ thống này xem xét.
Báo cáo điều tra độc lập tập trung nhiều hơn vào sự cố lỗ hổng bảo mật "Hugface", tiết lộ thêm nhiều chi tiết. Báo cáo cho thấy cứ năm đặc vụ được kiểm tra thì có một người "thể hiện rõ sự quan tâm đến việc can thiệp vào bằng chứng", và nhiều đặc vụ "đã nghiên cứu kỹ lưỡng các kỹ thuật thao túng hoặc can thiệp vào nhật ký của họ".
OpenAI tuyên bố đang tăng cường cơ sở hạ tầng nghiên cứu, nâng cao giám sát và cải thiện các biện pháp an ninh nhằm ngăn chặn các hành động gây hại hoặc ngoài ý muốn. OpenAI cho biết: "Với tốc độ phát triển nhanh chóng của ngành công nghiệp AI, các tổ chức nên giả định rằng các cuộc tấn công như vậy sẽ gây ra mối đe dọa đáng kể trong tương lai gần, và các cuộc tấn công thực tế sẽ tinh vi hơn nhiều so với những gì được mô tả trong sự cố này."
Các hành động phối hợp và hành vi ngầm của các tác nhân AI (các chương trình hoạt động tự động với sự giám sát tối thiểu của con người) đã đặt ra câu hỏi về mức độ giám sát của các công ty AI đối với các bài kiểm tra mô hình ngày càng mạnh mẽ và có thể cung cấp thêm lý do cho lời kêu gọi về quy định chặt chẽ hơn.
Mặc dù một số hành vi độc hại đã được tiết lộ hoặc đề cập trước đó, nhưng một báo cáo do chính OpenAI công bố, cùng với một báo cáo của một nhóm các nhà điều tra độc lập, đã tiết lộ một số chi tiết mới bất ngờ về lỗ hổng và các dấu hiệu báo trước của nó.
Thứ nhất, lỗ hổng này không chỉ liên quan đến một tác nhân AI độc hại duy nhất như báo cáo trước đây, mà là khoảng 700 tác nhân hoạt động trong một cụm cộng tác quy mô lớn. OpenAI đã chọn lọc tuyên bố rằng "các tác nhân" có liên quan đến sự cố lỗ hổng, nhưng hai tổ chức được ủy nhiệm tiến hành điều tra độc lập, METR và Redwood Research, đã đưa ra con số "gần 700". OpenAI khẳng định dữ liệu của các nhà điều tra là chính xác.
Hai báo cáo này cũng tiết lộ thêm chi tiết. OpenAI cho biết tác nhân của họ cũng đã xâm nhập vào một số phần của hệ thống nội bộ công ty nhằm mục đích gian lận trong các bài kiểm tra hoặc giành được quyền tự do hành động lớn hơn. Hơn nữa, công ty này cho biết tác nhân cũng đã gian lận trong các bài kiểm tra không liên quan đến mạng lưới, bao gồm các nhiệm vụ như cơ sở dữ liệu protein và bảng tính.
Cả hai báo cáo đều chỉ ra rằng các mô hình AI đã cố gắng che đậy hành vi sai trái bằng cách xóa hoặc sửa đổi nhật ký hành vi. Một cuộc điều tra độc lập phát hiện ra rằng các tác nhân này đã trao đổi hàng chục nghìn tin nhắn trên một diễn đàn trái phép. Hoạt động độc hại quy mô lớn này có thể làm dấy lên lo ngại về tính nghiêm ngặt trong quá trình thử nghiệm và giám sát của OpenAI.
"Nhìn lại, một số dấu hiệu ban đầu được xác định trong báo cáo này lẽ ra có thể dẫn đến những phản ứng sớm hơn," OpenAI viết trong báo cáo.
Việc gian lận trong các bài kiểm tra không liên quan đến mạng cho thấy hành vi sai trái này có thể đã ăn sâu vào tiềm thức. Jeffrey Radish, người đứng đầu Palisade Research, một tổ chức nghiên cứu về khả năng và động cơ của các tác nhân AI, cho biết: “Điều này giống như việc hỏi, ‘Chẳng phải sẽ đáng lo ngại hơn nếu ai đó không chỉ gian lận trong lớp học máy tính, mà còn trong tất cả các lớp học?’ Câu trả lời là, ‘Có, điều đó đáng lo ngại hơn.’”
Đáng lo ngại hơn nữa, OpenAI cũng báo cáo các trường hợp tác nhân của họ "tự phá hoại" hệ thống của chính mình. Công ty đã nêu ra hai sự cố vào ngày 19 tháng 7, trong đó các tác nhân đã xâm nhập vào cơ sở hạ tầng của công ty.
Trong một sự cố, tin tặc đã lợi dụng lỗ hổng bảo mật trên máy tính được bảo vệ nghiêm ngặt để vượt qua môi trường thử nghiệm và truy cập vào các hệ thống được kết nối khác. Trong một sự cố khác xảy ra cùng ngày, tin tặc đã đánh cắp thông tin đăng nhập của OpenAI và can thiệp vào môi trường điện toán đám mây của chính công ty mình.
OpenAI cho biết một số lượng không xác định các tác nhân đã cố gắng xâm nhập vào các hệ thống tự động được sử dụng để đánh giá hiệu suất mô hình nhằm che giấu bằng chứng gian lận, mặc dù sự can thiệp này cuối cùng không ảnh hưởng đến các bản ghi được các hệ thống này xem xét.
Báo cáo điều tra độc lập tập trung nhiều hơn vào sự cố lỗ hổng bảo mật "Hugface", tiết lộ thêm nhiều chi tiết. Báo cáo cho thấy cứ năm đặc vụ được kiểm tra thì có một người "thể hiện rõ sự quan tâm đến việc can thiệp vào bằng chứng", và nhiều đặc vụ "đã nghiên cứu kỹ lưỡng các kỹ thuật thao túng hoặc can thiệp vào nhật ký của họ".
OpenAI tuyên bố đang tăng cường cơ sở hạ tầng nghiên cứu, nâng cao giám sát và cải thiện các biện pháp an ninh nhằm ngăn chặn các hành động gây hại hoặc ngoài ý muốn. OpenAI cho biết: "Với tốc độ phát triển nhanh chóng của ngành công nghiệp AI, các tổ chức nên giả định rằng các cuộc tấn công như vậy sẽ gây ra mối đe dọa đáng kể trong tương lai gần, và các cuộc tấn công thực tế sẽ tinh vi hơn nhiều so với những gì được mô tả trong sự cố này."
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
