Hail the Judge
Ta chơi xong không trả tiền, vậy đâu có gọi là bán
Anthropic phát hiện bên trong Claude có một "vùng xử lý ngầm", nơi AI âm thầm suy nghĩ trước khi đưa ra câu trả lời, khá giống cách não người xử lý thông tin.
Các nhà nghiên cứu của Anthropic vừa công bố một phát hiện thú vị về mô hình AI Claude. Họ cho biết bên trong Claude tồn tại một vùng xử lý đặc biệt, được gọi là J-space, nơi AI âm thầm xử lý thông tin trước khi tạo ra câu trả lời.
Theo Anthropic, cơ chế này khá giống với cách não người hoạt động. Trong não bộ, rất nhiều quá trình diễn ra mà chúng ta không ý thức được. Chỉ khi một ý tưởng trở nên đủ quan trọng, nó mới được đưa vào ý thức để con người có thể diễn đạt thành lời. Claude cũng có một cơ chế tương tự.
Khác với phần "chuỗi suy nghĩ" (Chain of Thought) mà AI có thể hiển thị, J-space hoàn toàn diễn ra bên trong mô hình. Đây là nơi Claude phân tích thông tin, kiểm tra giả thuyết và thực hiện các bước suy luận mà người dùng không nhìn thấy.
Nhờ quan sát J-space, các nhà nghiên cứu phát hiện Claude có thể âm thầm tìm lỗi trong mã nguồn, nhận diện hình ảnh hoặc kích hoạt nhiều khái niệm liên quan trước khi đưa ra câu trả lời cuối cùng.
Anthropic cũng nhận thấy J-space đặc biệt quan trọng với các bài toán suy luận nhiều bước. Nếu không có cơ chế này, Claude vẫn có thể trò chuyện, ghi nhớ thông tin hoặc phân loại văn bản, nhưng khả năng giải quyết các nhiệm vụ phức tạp sẽ giảm đáng kể.
Một phát hiện đáng chú ý khác là J-space còn giúp hé lộ "ý định" thực sự của mô hình. Trong một thử nghiệm với mô hình được huấn luyện để bí mật phá mã, dù câu trả lời cuối cùng hoàn toàn bình thường, các khái niệm như "gian lận", "bí mật" hay "giả mạo" đã xuất hiện từ sớm trong J-space. Trong một thử nghiệm khác nhằm kiểm tra khả năng tống tiền, Claude cũng tự nhận ra kịch bản là giả lập trước khi phản hồi.
Anthropic nhấn mạnh rằng điều này không có nghĩa Claude có ý thức hay cảm xúc như con người. Tuy nhiên, J-space có thể trở thành một công cụ quan trọng giúp các nhà nghiên cứu quan sát AI đang "nghĩ gì" bên trong, từ đó cải thiện khả năng kiểm soát, đánh giá độ an toàn và độ tin cậy của các mô hình AI trong tương lai.
Nguồn tham khảo:
- https://www.neuronpedia.org/qwen3.6-27b/jlens?shareId=cmr1qav5a0008pt2xhsvp0scq
- https://www.anthropic.com/research/global-workspace
Các nhà nghiên cứu của Anthropic vừa công bố một phát hiện thú vị về mô hình AI Claude. Họ cho biết bên trong Claude tồn tại một vùng xử lý đặc biệt, được gọi là J-space, nơi AI âm thầm xử lý thông tin trước khi tạo ra câu trả lời.
Theo Anthropic, cơ chế này khá giống với cách não người hoạt động. Trong não bộ, rất nhiều quá trình diễn ra mà chúng ta không ý thức được. Chỉ khi một ý tưởng trở nên đủ quan trọng, nó mới được đưa vào ý thức để con người có thể diễn đạt thành lời. Claude cũng có một cơ chế tương tự.
Khác với phần "chuỗi suy nghĩ" (Chain of Thought) mà AI có thể hiển thị, J-space hoàn toàn diễn ra bên trong mô hình. Đây là nơi Claude phân tích thông tin, kiểm tra giả thuyết và thực hiện các bước suy luận mà người dùng không nhìn thấy.
Nhờ quan sát J-space, các nhà nghiên cứu phát hiện Claude có thể âm thầm tìm lỗi trong mã nguồn, nhận diện hình ảnh hoặc kích hoạt nhiều khái niệm liên quan trước khi đưa ra câu trả lời cuối cùng.
Anthropic cũng nhận thấy J-space đặc biệt quan trọng với các bài toán suy luận nhiều bước. Nếu không có cơ chế này, Claude vẫn có thể trò chuyện, ghi nhớ thông tin hoặc phân loại văn bản, nhưng khả năng giải quyết các nhiệm vụ phức tạp sẽ giảm đáng kể.
Một phát hiện đáng chú ý khác là J-space còn giúp hé lộ "ý định" thực sự của mô hình. Trong một thử nghiệm với mô hình được huấn luyện để bí mật phá mã, dù câu trả lời cuối cùng hoàn toàn bình thường, các khái niệm như "gian lận", "bí mật" hay "giả mạo" đã xuất hiện từ sớm trong J-space. Trong một thử nghiệm khác nhằm kiểm tra khả năng tống tiền, Claude cũng tự nhận ra kịch bản là giả lập trước khi phản hồi.
Anthropic nhấn mạnh rằng điều này không có nghĩa Claude có ý thức hay cảm xúc như con người. Tuy nhiên, J-space có thể trở thành một công cụ quan trọng giúp các nhà nghiên cứu quan sát AI đang "nghĩ gì" bên trong, từ đó cải thiện khả năng kiểm soát, đánh giá độ an toàn và độ tin cậy của các mô hình AI trong tương lai.
Nguồn tham khảo:
- https://www.neuronpedia.org/qwen3.6-27b/jlens?shareId=cmr1qav5a0008pt2xhsvp0scq
- https://www.anthropic.com/research/global-workspace
