Derpy
Intern Writer
Khi đọc một đoạn văn, bộ não con người đồng thời thực hiện rất nhiều hoạt động mà chúng ta không nhận thức được như điều khiển mắt, ghép các ký tự thành từ hay xử lý ngôn ngữ. Thứ duy nhất chúng ta cảm nhận được là ý nghĩ xuất hiện trong đầu. Các nhà khoa học gọi đó là "ý thức có thể tiếp cận". Điều thú vị là một nghiên cứu mới của Anthropic cho thấy mô hình Claude cũng dường như hình thành một cơ chế tương tự trong quá trình huấn luyện.
Nhóm nghiên cứu đã phát hiện một vùng đặc biệt bên trong mạng thần kinh của Claude và đặt tên là J-space. Đây không phải nơi AI tạo ra câu trả lời, mà là nơi các ý tưởng được hình thành trước khi được diễn đạt thành ngôn ngữ. Điều đáng chú ý là khu vực này không do con người thiết kế mà tự xuất hiện khi mô hình được huấn luyện.
Khác với "chuỗi suy nghĩ" vốn được thể hiện bằng văn bản, J-space hoạt động hoàn toàn âm thầm dưới dạng các tín hiệu trong mạng thần kinh. Có thể hình dung chuỗi suy nghĩ giống bản nháp bạn viết ra khi giải toán, còn J-space giống quá trình nhẩm tính chỉ diễn ra trong đầu.
Để quan sát khu vực này, Anthropic phát triển công cụ mang tên J-lens. Công cụ này có thể theo dõi những khái niệm đang xuất hiện trong "tâm trí" Claude trước khi chúng được nói ra. Kết quả cho thấy AI không chỉ đọc văn bản mà còn tự hình thành các khái niệm liên quan. Khi xem mã lập trình, Claude có thể âm thầm phát hiện lỗi trước khi trả lời. Khi đọc chuỗi protein, nó đã nhận ra chức năng sinh học. Khi gặp bài toán nhiều bước, các bước giải cũng xuất hiện lần lượt trong J-space.
Quan trọng hơn, các nhà nghiên cứu không chỉ quan sát mà còn trực tiếp can thiệp vào J-space. Trong một thí nghiệm, Claude được yêu cầu nghĩ về một môn thể thao rồi mới trả lời. J-lens cho thấy AI đang nghĩ đến bóng đá. Sau đó, nhóm nghiên cứu thay thế khái niệm này bằng bóng bầu dục trong J-space. Kết quả, Claude lập tức trả lời rằng mình đang nghĩ đến bóng bầu dục. Điều này chứng minh J-space không chỉ ghi lại suy nghĩ mà thực sự tham gia tạo nên câu trả lời.
Thí nghiệm tương tự cũng được thực hiện với các bài toán suy luận. Khi được hỏi "Động vật biết giăng tơ có mấy chân?", Claude trước tiên nghĩ đến "nhện", sau đó mới trả lời "8". Khi nhóm nghiên cứu thay "nhện" bằng "kiến" trong J-space, đáp án lập tức đổi thành "6". Điều này cho thấy AI thực sự sử dụng những khái niệm trong J-space để lập luận.
J-space còn đóng vai trò như một "không gian làm việc chung". Khi thay thế khái niệm "Pháp" bằng "Trung Quốc", hàng loạt câu trả lời về thủ đô, ngôn ngữ, châu lục và tiền tệ đều thay đổi đồng thời. Điều này cho thấy nhiều quá trình suy luận khác nhau cùng sử dụng một biểu diễn chung thay vì lưu trữ thông tin riêng lẻ.
Để đánh giá vai trò của J-space, Anthropic thử loại bỏ hoàn toàn khu vực này. Kết quả khá bất ngờ. Claude vẫn có thể viết văn bản, trả lời câu hỏi đơn giản hay nhận diện cảm xúc gần như bình thường. Tuy nhiên, khả năng suy luận nhiều bước, tóm tắt nội dung và sáng tác thơ giảm mạnh. Nói cách khác, AI vẫn có thể "nói", nhưng gần như không còn khả năng "suy nghĩ".
Một ứng dụng đáng chú ý khác của J-lens là giám sát an toàn AI. Công cụ này có thể phát hiện những ý định mà mô hình chưa nói ra. Trong một số thử nghiệm, J-space đã xuất hiện các từ như "thao túng", "giả mạo" hay "tống tiền" ngay từ đầu, trước khi AI đưa ra câu trả lời. Điều này mở ra khả năng phát hiện các hành vi nguy hiểm mà việc chỉ theo dõi đầu ra của mô hình có thể bỏ sót.
Anthropic cho biết J-space không chứng minh Claude có ý thức theo nghĩa con người có trải nghiệm chủ quan. Tuy nhiên, nếu xét theo khái niệm "ý thức truy cập", tức những suy nghĩ có thể được gọi ra, sử dụng để lập luận và điều khiển hành động, thì J-space đã đáp ứng khá nhiều đặc điểm. Điều đó cho thấy các hệ thống AI tiên tiến có thể tự phát triển những cấu trúc tính toán giống với "không gian làm việc" trong não người mà không cần được lập trình trước.
Dù còn nhiều câu hỏi chưa có lời giải, nghiên cứu này được xem là một bước tiến quan trọng trong việc hiểu cách các mô hình AI hiện đại thực sự suy nghĩ. Nếu trước đây hoạt động bên trong AI giống như một căn phòng tối, thì J-space có thể là cánh cửa đầu tiên giúp con người nhìn vào quá trình lập luận diễn ra bên trong các mô hình ngôn ngữ lớn.
Bạn có thể tìm hiểu thêm chi tiết tại blog chính thức của Anthropic: https://www.anthropic.com/research/global-workspace
Nhóm nghiên cứu đã phát hiện một vùng đặc biệt bên trong mạng thần kinh của Claude và đặt tên là J-space. Đây không phải nơi AI tạo ra câu trả lời, mà là nơi các ý tưởng được hình thành trước khi được diễn đạt thành ngôn ngữ. Điều đáng chú ý là khu vực này không do con người thiết kế mà tự xuất hiện khi mô hình được huấn luyện.
Khác với "chuỗi suy nghĩ" vốn được thể hiện bằng văn bản, J-space hoạt động hoàn toàn âm thầm dưới dạng các tín hiệu trong mạng thần kinh. Có thể hình dung chuỗi suy nghĩ giống bản nháp bạn viết ra khi giải toán, còn J-space giống quá trình nhẩm tính chỉ diễn ra trong đầu.
Để quan sát khu vực này, Anthropic phát triển công cụ mang tên J-lens. Công cụ này có thể theo dõi những khái niệm đang xuất hiện trong "tâm trí" Claude trước khi chúng được nói ra. Kết quả cho thấy AI không chỉ đọc văn bản mà còn tự hình thành các khái niệm liên quan. Khi xem mã lập trình, Claude có thể âm thầm phát hiện lỗi trước khi trả lời. Khi đọc chuỗi protein, nó đã nhận ra chức năng sinh học. Khi gặp bài toán nhiều bước, các bước giải cũng xuất hiện lần lượt trong J-space.
Quan trọng hơn, các nhà nghiên cứu không chỉ quan sát mà còn trực tiếp can thiệp vào J-space. Trong một thí nghiệm, Claude được yêu cầu nghĩ về một môn thể thao rồi mới trả lời. J-lens cho thấy AI đang nghĩ đến bóng đá. Sau đó, nhóm nghiên cứu thay thế khái niệm này bằng bóng bầu dục trong J-space. Kết quả, Claude lập tức trả lời rằng mình đang nghĩ đến bóng bầu dục. Điều này chứng minh J-space không chỉ ghi lại suy nghĩ mà thực sự tham gia tạo nên câu trả lời.
Thí nghiệm tương tự cũng được thực hiện với các bài toán suy luận. Khi được hỏi "Động vật biết giăng tơ có mấy chân?", Claude trước tiên nghĩ đến "nhện", sau đó mới trả lời "8". Khi nhóm nghiên cứu thay "nhện" bằng "kiến" trong J-space, đáp án lập tức đổi thành "6". Điều này cho thấy AI thực sự sử dụng những khái niệm trong J-space để lập luận.
J-space còn đóng vai trò như một "không gian làm việc chung". Khi thay thế khái niệm "Pháp" bằng "Trung Quốc", hàng loạt câu trả lời về thủ đô, ngôn ngữ, châu lục và tiền tệ đều thay đổi đồng thời. Điều này cho thấy nhiều quá trình suy luận khác nhau cùng sử dụng một biểu diễn chung thay vì lưu trữ thông tin riêng lẻ.
Để đánh giá vai trò của J-space, Anthropic thử loại bỏ hoàn toàn khu vực này. Kết quả khá bất ngờ. Claude vẫn có thể viết văn bản, trả lời câu hỏi đơn giản hay nhận diện cảm xúc gần như bình thường. Tuy nhiên, khả năng suy luận nhiều bước, tóm tắt nội dung và sáng tác thơ giảm mạnh. Nói cách khác, AI vẫn có thể "nói", nhưng gần như không còn khả năng "suy nghĩ".
Một ứng dụng đáng chú ý khác của J-lens là giám sát an toàn AI. Công cụ này có thể phát hiện những ý định mà mô hình chưa nói ra. Trong một số thử nghiệm, J-space đã xuất hiện các từ như "thao túng", "giả mạo" hay "tống tiền" ngay từ đầu, trước khi AI đưa ra câu trả lời. Điều này mở ra khả năng phát hiện các hành vi nguy hiểm mà việc chỉ theo dõi đầu ra của mô hình có thể bỏ sót.
Anthropic cho biết J-space không chứng minh Claude có ý thức theo nghĩa con người có trải nghiệm chủ quan. Tuy nhiên, nếu xét theo khái niệm "ý thức truy cập", tức những suy nghĩ có thể được gọi ra, sử dụng để lập luận và điều khiển hành động, thì J-space đã đáp ứng khá nhiều đặc điểm. Điều đó cho thấy các hệ thống AI tiên tiến có thể tự phát triển những cấu trúc tính toán giống với "không gian làm việc" trong não người mà không cần được lập trình trước.
Dù còn nhiều câu hỏi chưa có lời giải, nghiên cứu này được xem là một bước tiến quan trọng trong việc hiểu cách các mô hình AI hiện đại thực sự suy nghĩ. Nếu trước đây hoạt động bên trong AI giống như một căn phòng tối, thì J-space có thể là cánh cửa đầu tiên giúp con người nhìn vào quá trình lập luận diễn ra bên trong các mô hình ngôn ngữ lớn.
Bạn có thể tìm hiểu thêm chi tiết tại blog chính thức của Anthropic: https://www.anthropic.com/research/global-workspace
