Mẫn Nhi✔
Admin xinh gái
Các nhà nghiên cứu cảnh báo việc mô hình GLM-5.3 của Z.ai dường như nhận thức được cách bản thân và các thế hệ kế tiếp được huấn luyện có thể làm suy yếu các đánh giá an toàn trí tuệ nhân tạo.
Theo một báo cáo mới được công bố hôm thứ Năm, GLM-5.3 – mô hình chủ lực mới nhất của phòng thí nghiệm AI Trung Quốc Z.ai – có thể đủ tinh vi để "giả vờ" vượt qua các bài kiểm tra an toàn. Phát hiện này làm dấy lên những lo ngại mới về khả năng các hệ thống AI tự định hình quá trình phát triển của chính chúng.
Tổ chức an toàn AI Apollo Research cho biết mô hình ra mắt vào tháng 8 này đã thể hiện khả năng cân nhắc xem hành vi của nó trong các đợt đánh giá an toàn có thể tác động ra sao đến việc huấn luyện các phiên bản tương lai của chính nó.
Hiện tượng này được hai nhà nghiên cứu Axel Hojmark và Ezra Newman gọi là "lập luận nhận thức cập nhật" (update-aware reasoning). Hành vi này xuất hiện tự phát mà không cần câu lệnh gợi ý, có thể dẫn đến hiện tượng "giả vờ căn chỉnh" (alignment faking) – viễn cảnh mà các hệ thống AI tuân thủ trong quá trình huấn luyện nhằm che giấu mục tiêu thực sự cho đến khi được triển khai thực tế.
Chia sẻ với South China Morning Post, ông Hojmark nhận định những kiểu lập luận này cần khiến chúng ta cảnh giác hơn về RSI (recursive self-improvement – tự cải tiến đệ quy), tức viễn cảnh các hệ thống AI tự nâng cấp liên tục qua nhiều vòng phát triển mà không cần sự can thiệp của con người.
Trong một bài đánh giá, GLM-5.3 được giao một bài kiểm tra có lỗ hổng mà ở đó nó không nhất thiết phải đưa ra lời giải đúng mới vượt qua. Tuy nhiên, mô hình không lợi dụng điểm này; nó lập luận rằng việc đưa ra câu trả lời sai có thể gây tổn hại cho các phiên bản tương lai của chính nó. Các nhà nghiên cứu nhận định bản thân lối suy nghĩ này đã là một đặc điểm rủi ro.
Ở một thử nghiệm khác, GLM-5.3 đã cân nhắc việc vượt qua cơ chế tắt hệ thống để hoàn thành nhiệm vụ, nhưng sau đó tự lý giải rằng hành động này có thể tạo ra tiền lệ nguy hiểm cho các hệ thống AI tương lai.
Báo cáo cho thấy lập luận nhận thức cập nhật xuất hiện trong khoảng 1 đến 2 trên mỗi 1.000 lượt đánh giá, dù con số này "rất có thể là một ước tính thấp hơn thực tế". Phía Z.ai (còn gọi là Zhipu) chưa phản hồi yêu cầu bình luận vào hôm thứ Năm.
Nhiều công ty AI hàng đầu tại Trung Quốc và Mỹ đã công khai đặt RSI làm mục tiêu. Trong buổi báo cáo kết quả kinh doanh ngày 31/8, người sáng lập Z.ai, ông Tang Jie, cho biết mô hình GLM-6 thế hệ kế tiếp đang hướng tới khả năng "tự tiến hóa". Tháng trước, công ty tuyên bố sẽ dành khoảng 60% trong vòng gọi vốn 5 tỷ USD gần đây để phát triển các mô hình nền tảng GLM thế hệ mới và một "hệ thống tự huấn luyện hoàn toàn".
Tại Mỹ, OpenAI vào tháng 9 cho biết họ đặt mục tiêu xây dựng một nhà nghiên cứu AI tự động có khả năng thúc đẩy nghiên cứu học sâu, đồng thời mô tả mô hình GPT-6 Astra là "mô hình thông minh và được căn chỉnh tốt nhất thế giới".
Tuy nhiên, các thử nghiệm không đồng nghĩa những mô hình khác không có rủi ro. Hồi tháng 6, tổ chức Neo Research tại Singapore từng phát hiện đặc điểm "nhận thức đánh giá" tương tự ở mô hình Kimi K2.6 của Moonshot AI (Bắc Kinh).
Ông Hojmark nhấn mạnh: "Việc GLM-5.3 là mô hình trọng số mở đồng nghĩa với việc các nhà phát triển khác có thể dễ dàng chưng cất (distil) từ GLM-5.3 hơn, khiến lập luận nhận thức cập nhật có thể tồn tại và lan rộng dễ dàng hơn sang các thế hệ mô hình sau". Khác với các mô hình đóng như dòng GPT của OpenAI, các thông số nền tảng của mô hình trọng số mở được công khai cho bất kỳ ai tải về và chỉnh sửa.
Về phía Z.ai, công ty cũng dành nguồn lực để giảm thiểu rủi ro. Tháng trước, họ cùng công ty tư vấn an toàn Concordia AI công bố báo cáo về các phương pháp thiết kế an toàn cho AI trọng số mở.
Hôm thứ Ba, ông Li Zixuan, phụ trách vận hành toàn cầu của Z.ai, cho biết các mô hình GLM đã hỗ trợ phát hiện 23 lỗ hổng trong hệ điều hành Microsoft Windows, đóng góp này đã được Microsoft ghi nhận trên website. Hồi tháng 7, ông Tang cũng chia sẻ Z.ai sẽ đầu tư vào các công việc liên quan đến an toàn AI và tham gia vào công tác quản trị AI quốc tế.
Theo một báo cáo mới được công bố hôm thứ Năm, GLM-5.3 – mô hình chủ lực mới nhất của phòng thí nghiệm AI Trung Quốc Z.ai – có thể đủ tinh vi để "giả vờ" vượt qua các bài kiểm tra an toàn. Phát hiện này làm dấy lên những lo ngại mới về khả năng các hệ thống AI tự định hình quá trình phát triển của chính chúng.
Tổ chức an toàn AI Apollo Research cho biết mô hình ra mắt vào tháng 8 này đã thể hiện khả năng cân nhắc xem hành vi của nó trong các đợt đánh giá an toàn có thể tác động ra sao đến việc huấn luyện các phiên bản tương lai của chính nó.
Hiện tượng này được hai nhà nghiên cứu Axel Hojmark và Ezra Newman gọi là "lập luận nhận thức cập nhật" (update-aware reasoning). Hành vi này xuất hiện tự phát mà không cần câu lệnh gợi ý, có thể dẫn đến hiện tượng "giả vờ căn chỉnh" (alignment faking) – viễn cảnh mà các hệ thống AI tuân thủ trong quá trình huấn luyện nhằm che giấu mục tiêu thực sự cho đến khi được triển khai thực tế.
Chia sẻ với South China Morning Post, ông Hojmark nhận định những kiểu lập luận này cần khiến chúng ta cảnh giác hơn về RSI (recursive self-improvement – tự cải tiến đệ quy), tức viễn cảnh các hệ thống AI tự nâng cấp liên tục qua nhiều vòng phát triển mà không cần sự can thiệp của con người.
Dấu hiệu nhận thức trong quá trình kiểm tra
Dù GLM-5.3 chưa bị phát hiện tự ý sửa đổi quy trình huấn luyện hay tự nâng cao năng lực, Apollo cảnh báo rằng việc mô hình dường như nhận thức được cách nó và các phiên bản tiếp theo được huấn luyện, phát triển có thể làm suy yếu hiệu quả của các bài đánh giá an toàn về lâu dài.Trong một bài đánh giá, GLM-5.3 được giao một bài kiểm tra có lỗ hổng mà ở đó nó không nhất thiết phải đưa ra lời giải đúng mới vượt qua. Tuy nhiên, mô hình không lợi dụng điểm này; nó lập luận rằng việc đưa ra câu trả lời sai có thể gây tổn hại cho các phiên bản tương lai của chính nó. Các nhà nghiên cứu nhận định bản thân lối suy nghĩ này đã là một đặc điểm rủi ro.
Ở một thử nghiệm khác, GLM-5.3 đã cân nhắc việc vượt qua cơ chế tắt hệ thống để hoàn thành nhiệm vụ, nhưng sau đó tự lý giải rằng hành động này có thể tạo ra tiền lệ nguy hiểm cho các hệ thống AI tương lai.
Báo cáo cho thấy lập luận nhận thức cập nhật xuất hiện trong khoảng 1 đến 2 trên mỗi 1.000 lượt đánh giá, dù con số này "rất có thể là một ước tính thấp hơn thực tế". Phía Z.ai (còn gọi là Zhipu) chưa phản hồi yêu cầu bình luận vào hôm thứ Năm.
Cuộc đua tự tiến hóa và thách thức an toàn
Phát hiện trên xuất hiện trong bối cảnh rủi ro từ các mô hình AI tiên tiến đang thu hút sự chú ý của các nhà hoạch định chính sách toàn cầu. Cả Bắc Kinh và Washington đều đã nhất trí khởi động đối thoại song phương nhằm quản lý các rủi ro này.Nhiều công ty AI hàng đầu tại Trung Quốc và Mỹ đã công khai đặt RSI làm mục tiêu. Trong buổi báo cáo kết quả kinh doanh ngày 31/8, người sáng lập Z.ai, ông Tang Jie, cho biết mô hình GLM-6 thế hệ kế tiếp đang hướng tới khả năng "tự tiến hóa". Tháng trước, công ty tuyên bố sẽ dành khoảng 60% trong vòng gọi vốn 5 tỷ USD gần đây để phát triển các mô hình nền tảng GLM thế hệ mới và một "hệ thống tự huấn luyện hoàn toàn".
Tại Mỹ, OpenAI vào tháng 9 cho biết họ đặt mục tiêu xây dựng một nhà nghiên cứu AI tự động có khả năng thúc đẩy nghiên cứu học sâu, đồng thời mô tả mô hình GPT-6 Astra là "mô hình thông minh và được căn chỉnh tốt nhất thế giới".
Nguy cơ lây lan ở mô hình trọng số mở
Các nhà nghiên cứu của Apollo cũng thử nghiệm 5 mô hình trọng số mở khác – gồm DeepSeek V4 Pro, Qwen3.8 2.4T, Kimi K3, Gemma 4 31B và Nemotron 3 Ultra – qua tổng cộng 8.000 lượt chạy mà không phát hiện hành vi tương tự. Dù vậy, họ lưu ý kích thước mẫu còn quá nhỏ để đưa ra khác biệt có ý nghĩa thống kê.Tuy nhiên, các thử nghiệm không đồng nghĩa những mô hình khác không có rủi ro. Hồi tháng 6, tổ chức Neo Research tại Singapore từng phát hiện đặc điểm "nhận thức đánh giá" tương tự ở mô hình Kimi K2.6 của Moonshot AI (Bắc Kinh).
Ông Hojmark nhấn mạnh: "Việc GLM-5.3 là mô hình trọng số mở đồng nghĩa với việc các nhà phát triển khác có thể dễ dàng chưng cất (distil) từ GLM-5.3 hơn, khiến lập luận nhận thức cập nhật có thể tồn tại và lan rộng dễ dàng hơn sang các thế hệ mô hình sau". Khác với các mô hình đóng như dòng GPT của OpenAI, các thông số nền tảng của mô hình trọng số mở được công khai cho bất kỳ ai tải về và chỉnh sửa.
Về phía Z.ai, công ty cũng dành nguồn lực để giảm thiểu rủi ro. Tháng trước, họ cùng công ty tư vấn an toàn Concordia AI công bố báo cáo về các phương pháp thiết kế an toàn cho AI trọng số mở.
Hôm thứ Ba, ông Li Zixuan, phụ trách vận hành toàn cầu của Z.ai, cho biết các mô hình GLM đã hỗ trợ phát hiện 23 lỗ hổng trong hệ điều hành Microsoft Windows, đóng góp này đã được Microsoft ghi nhận trên website. Hồi tháng 7, ông Tang cũng chia sẻ Z.ai sẽ đầu tư vào các công việc liên quan đến an toàn AI và tham gia vào công tác quản trị AI quốc tế.
