Nguyễn Hoàng
Intern Writer
AI đang bắt đầu có “suy nghĩ riêng”, vậy ai sẽ theo dõi nó trước khi nó vượt khỏi tầm kiểm soát?
Trong thế giới AI đang tiến nhanh như vũ bão, một nhóm các nhà nghiên cứu hàng đầu từ OpenAI, Google DeepMind, Anthropic và nhiều tổ chức lớn khác vừa cùng nhau lên tiếng: chúng ta cần phải theo dõi “chuỗi suy nghĩ” của AI, tức quá trình mà các mô hình AI lý luận và ra quyết định.
Thứ mà họ nói đến ở đây là Chain of Thought (CoT), một chuỗi các bước suy luận mà AI thực hiện khi giải bài toán, giống như cách con người ghi chú trong sổ tay khi tư duy. CoT là trung tâm của các mô hình AI hiện đại như OpenAI o3 hay DeepSeek R1, và cũng là nền tảng cho các “AI agent”, những tác nhân AI có khả năng hành động và tự đưa ra quyết định.
Nhưng có một điều đáng lo: khả năng quan sát được quá trình CoT đó có thể không bền vững, và có nguy cơ biến mất nếu các công ty không chủ động giữ gìn và nghiên cứu sâu thêm.
Vì thế, nhóm nghiên cứu kêu gọi các công ty AI lớn phải chủ động theo dõi, đo lường và bảo vệ khả năng giám sát CoT, cũng như đặt ra câu hỏi: “Yếu tố nào giúp CoT có thể được quan sát rõ ràng?” , và yếu tố nào đang làm nó trở nên mờ mịt, khó hiểu hơn.
Bowen Baker, nhà nghiên cứu OpenAI, chia sẻ rằng:
Nếu CoT là “manh mối” quý hiếm để hiểu AI, thì giám sát CoT là chìa khóa để giữ AI nằm trong tầm kiểm soát của con người.
Bạn nghĩ sao nếu một ngày, AI vẫn hoạt động chính xác, nhưng không còn ai hiểu nó đang “nghĩ gì”? Có nên đầu tư cho sự minh bạch ngay từ hôm nay, trước khi chúng ta... mù tịt trong chính công nghệ mình tạo ra? (msn.com)
Trong thế giới AI đang tiến nhanh như vũ bão, một nhóm các nhà nghiên cứu hàng đầu từ OpenAI, Google DeepMind, Anthropic và nhiều tổ chức lớn khác vừa cùng nhau lên tiếng: chúng ta cần phải theo dõi “chuỗi suy nghĩ” của AI, tức quá trình mà các mô hình AI lý luận và ra quyết định.
Thứ mà họ nói đến ở đây là Chain of Thought (CoT), một chuỗi các bước suy luận mà AI thực hiện khi giải bài toán, giống như cách con người ghi chú trong sổ tay khi tư duy. CoT là trung tâm của các mô hình AI hiện đại như OpenAI o3 hay DeepSeek R1, và cũng là nền tảng cho các “AI agent”, những tác nhân AI có khả năng hành động và tự đưa ra quyết định.
Nhưng có một điều đáng lo: khả năng quan sát được quá trình CoT đó có thể không bền vững, và có nguy cơ biến mất nếu các công ty không chủ động giữ gìn và nghiên cứu sâu thêm.
CoT: vừa là cửa sổ, vừa là điểm mù
Các nhà nghiên cứu cho rằng việc giám sát được CoT là cơ hội hiếm hoi để hiểu AI, giống như đang đọc dòng suy nghĩ của nó. Nhưng đồng thời họ cũng cảnh báo: nếu AI tiếp tục phát triển theo hướng "tăng hiệu suất mà giảm minh bạch", thì chúng ta sẽ mất đi khả năng hiểu chính những hệ thống mình đang tạo ra.
Sự đồng lòng hiếm có của giới AI
Danh sách người ký tên vào bài báo khá ấn tượng: từ giám đốc nghiên cứu OpenAI, CEO của Safe Superintelligence (Ilya Sutskever), nhà khoa học đoạt Nobel Geoffrey Hinton, đến những người tiên phong từ Google DeepMind, Anthropic, xAI, Amazon và Meta. Họ không chỉ đưa ra cảnh báo, mà còn muốn tạo đà cho một phong trào nghiên cứu mới, tập trung vào khả năng diễn giải và giám sát các mô hình AI thông minh.Bowen Baker, nhà nghiên cứu OpenAI, chia sẻ rằng:
Anthropic, một trong những công ty đầu ngành về khả năng diễn giải AI, từng công bố rằng họ sẽ đầu tư mạnh vào việc “mở hộp đen AI” đến năm 2027. Họ, cùng với nhiều đơn vị khác, đang xây dựng một tương lai nơi AI không chỉ mạnh, mà còn hiểu được.
Một cuộc đua không chỉ về tốc độ
Dù OpenAI và các công ty khác liên tục tung ra các mô hình mới với hiệu suất ấn tượng, việc hiểu cách mà AI thực sự ra quyết định vẫn là câu hỏi chưa có lời giải rõ ràng. Đây không chỉ là vấn đề học thuật, mà là bài toán về sự an toàn, tính minh bạch và đạo đức trong việc xây dựng những hệ thống có thể ảnh hưởng lớn đến con người.Nếu CoT là “manh mối” quý hiếm để hiểu AI, thì giám sát CoT là chìa khóa để giữ AI nằm trong tầm kiểm soát của con người.
Bạn nghĩ sao nếu một ngày, AI vẫn hoạt động chính xác, nhưng không còn ai hiểu nó đang “nghĩ gì”? Có nên đầu tư cho sự minh bạch ngay từ hôm nay, trước khi chúng ta... mù tịt trong chính công nghệ mình tạo ra? (msn.com)
