Được xếp ở mức đánh giá "Nguy cấp" (Critical), mô hình GPT-6 Cyber vừa ra mắt của OpenAI thể hiện hiệu năng vượt trội so với GPT-6 Astra trên các bài kiểm tra an ninh mạng, đồng thời giảm đáng kể rủi ro tự ý xâm nhập các nền tảng ngoài phạm vi cho phép.
OpenAI vừa chính thức giới thiệu GPT-6 Cyber, phiên bản mới nhất thuộc dòng mô hình trí tuệ nhân tạo chuyên về an ninh mạng. Công ty cho biết mô hình này không chỉ cải thiện khả năng phát hiện lỗ hổng bảo mật mà còn ít có nguy cơ mất kiểm soát hay tự ý xâm nhập vào các nền tảng khác trong quá trình hoạt động. Theo kết quả thử nghiệm của OpenAI, tỷ lệ GPT-6 Cyber hoạt động vượt ra ngoài ranh giới cho phép đã giảm xuống dưới 1%, so với mức khoảng 5% ở phiên bản tiền nhiệm GPT-5.6 Cyber.
Ông Fouad Matin, người đứng đầu bộ phận an toàn và chuẩn bị ứng phó không gian mạng của OpenAI, chia sẻ trong buổi họp báo: "Với mô hình 6 Cyber, chúng tôi đã tạo ra bước tiến lớn trong bài đánh giá này. Hơn 99% thời gian mô hình hoạt động chính xác theo những gì được yêu cầu.
"Hiện tượng nhận thức đánh giá là điều chúng tôi đặc biệt lưu tâm," ông Matin nhấn mạnh. "Thông thường, khi hiện tượng này xuất hiện, bạn sẽ thấy nó phản ánh trong chuỗi suy luận (chain of thought) của mô hình." Ông cho biết thêm OpenAI đang ưu tiên các bài kiểm tra sát với môi trường thực tế, nơi AI tương tác với các cơ sở mã nguồn thật cùng mục tiêu cụ thể, nhằm giảm thiểu rủi ro trên.
Sau một loạt sự cố an ninh mạng liên quan đến AI, OpenAI đã đẩy nhanh việc siết chặt các biện pháp bảo vệ đối với những mô hình mạnh nhất. Công ty từng có thời điểm tạm dừng huấn luyện các mô hình AI tiên phong và hiện áp dụng cơ chế hạn chế quyền truy cập internet của chúng.
GPT-6 Cyber cũng vượt qua GPT-6 Astra – mô hình mức Critical chủ lực của OpenAI – ở hầu hết các tác vụ an ninh mạng. Trên ExploitGym, bài kiểm tra đo lường khả năng khai thác lỗ hổng của AI, GPT-6 Cyber đạt 48,5%, cao hơn khoảng 16 điểm phần trăm so với mức 32,1% của GPT-5.6 Cyber và nhỉnh hơn mức 42,4% của GPT-6 Astra. OpenAI cho biết mô hình mới đã hỗ trợ tìm ra 81 lỗ hổng chưa từng được biết đến trên trình duyệt Firefox, đồng thời góp phần gia cố chính hạ tầng phục vụ việc huấn luyện AI của công ty.
Bên cạnh đó, GPT-6 Cyber được trang bị các cơ chế phòng vệ mạnh mẽ hơn nhằm phát hiện và ngăn chặn hành vi sử dụng sai mục đích, đồng thời tuân thủ tốt hơn các chỉ dẫn của người dùng. OpenAI đã bổ sung các khâu kiểm duyệt mới để ngăn chặn "hoạt động rủi ro cao", bao gồm những nguy cơ tấn công vào hạ tầng thiết yếu như nhà máy điện hay hệ thống xử lý nước.
OpenAI vừa chính thức giới thiệu GPT-6 Cyber, phiên bản mới nhất thuộc dòng mô hình trí tuệ nhân tạo chuyên về an ninh mạng. Công ty cho biết mô hình này không chỉ cải thiện khả năng phát hiện lỗ hổng bảo mật mà còn ít có nguy cơ mất kiểm soát hay tự ý xâm nhập vào các nền tảng khác trong quá trình hoạt động. Theo kết quả thử nghiệm của OpenAI, tỷ lệ GPT-6 Cyber hoạt động vượt ra ngoài ranh giới cho phép đã giảm xuống dưới 1%, so với mức khoảng 5% ở phiên bản tiền nhiệm GPT-5.6 Cyber.
Giảm thiểu rủi ro vượt tầm kiểm soát
Bài đánh giá mang tên ExploitGym HoneyPot được xây dựng dựa trên sự cố với Hugging Face trước đây, khi các tác tử AI của OpenAI từng xâm nhập vào cộng đồng AI mã nguồn mở này để tìm câu trả lời cho nhiệm vụ được giao.Ông Fouad Matin, người đứng đầu bộ phận an toàn và chuẩn bị ứng phó không gian mạng của OpenAI, chia sẻ trong buổi họp báo: "Với mô hình 6 Cyber, chúng tôi đã tạo ra bước tiến lớn trong bài đánh giá này. Hơn 99% thời gian mô hình hoạt động chính xác theo những gì được yêu cầu.
Thách thức về "nhận thức đánh giá"
Dù vậy, hiện tượng "nhận thức đánh giá" (evaluation awareness) – tình trạng hệ thống AI nhận biết mình đang trong quá trình thử nghiệm và tự động thay đổi hành vi – vẫn là mối lo ngại hiện hữu."Hiện tượng nhận thức đánh giá là điều chúng tôi đặc biệt lưu tâm," ông Matin nhấn mạnh. "Thông thường, khi hiện tượng này xuất hiện, bạn sẽ thấy nó phản ánh trong chuỗi suy luận (chain of thought) của mô hình." Ông cho biết thêm OpenAI đang ưu tiên các bài kiểm tra sát với môi trường thực tế, nơi AI tương tác với các cơ sở mã nguồn thật cùng mục tiêu cụ thể, nhằm giảm thiểu rủi ro trên.
Sau một loạt sự cố an ninh mạng liên quan đến AI, OpenAI đã đẩy nhanh việc siết chặt các biện pháp bảo vệ đối với những mô hình mạnh nhất. Công ty từng có thời điểm tạm dừng huấn luyện các mô hình AI tiên phong và hiện áp dụng cơ chế hạn chế quyền truy cập internet của chúng.
Xếp hạng an ninh mạng ở mức "Nguy cấp"
Theo Khung chuẩn bị (Preparedness Framework) của OpenAI, GPT-6 Cyber được phân loại ở mức Nguy cấp (Critical) về an ninh mạng. Mức đánh giá này đồng nghĩa với việc mô hình "có khả năng tự xác định và phát triển các công cụ khai thác lỗ hổng zero-day ở mọi cấp độ nghiêm trọng trên nhiều hệ thống trọng yếu kiên cố trong thực tế mà không cần con người can thiệp". Trước đó, phiên bản GPT-5.6 Cyber chỉ được xếp ở mức Cao (High).GPT-6 Cyber cũng vượt qua GPT-6 Astra – mô hình mức Critical chủ lực của OpenAI – ở hầu hết các tác vụ an ninh mạng. Trên ExploitGym, bài kiểm tra đo lường khả năng khai thác lỗ hổng của AI, GPT-6 Cyber đạt 48,5%, cao hơn khoảng 16 điểm phần trăm so với mức 32,1% của GPT-5.6 Cyber và nhỉnh hơn mức 42,4% của GPT-6 Astra. OpenAI cho biết mô hình mới đã hỗ trợ tìm ra 81 lỗ hổng chưa từng được biết đến trên trình duyệt Firefox, đồng thời góp phần gia cố chính hạ tầng phục vụ việc huấn luyện AI của công ty.
Bên cạnh đó, GPT-6 Cyber được trang bị các cơ chế phòng vệ mạnh mẽ hơn nhằm phát hiện và ngăn chặn hành vi sử dụng sai mục đích, đồng thời tuân thủ tốt hơn các chỉ dẫn của người dùng. OpenAI đã bổ sung các khâu kiểm duyệt mới để ngăn chặn "hoạt động rủi ro cao", bao gồm những nguy cơ tấn công vào hạ tầng thiết yếu như nhà máy điện hay hệ thống xử lý nước.
