Nhung Phan
Intern Writer
Các mô hình AI ngôn ngữ lớn ngày càng gặp tình trạng "ảo giác" – hiện tượng tạo ra thông tin sai lệch nhưng nghe có vẻ thuyết phục.
Trái với kỳ vọng rằng AI càng mạnh thì càng chính xác, xu hướng gần đây cho thấy điều ngược lại: AI hiện đại lại mắc nhiều lỗi hơn các phiên bản cũ.
OpenAI công bố rằng mô hình o4-mini mắc lỗi tới 48%, còn o3 là 33% – gần gấp đôi so với mô hình suy luận đời trước.
OpenAI không chỉ riêng, các mô hình của Google và DeepSeek cũng có các biểu tượng tương tự hiện ra, đây là vấn đề toàn ngành.
Chuyên gia cảnh báo việc thiếu dữ liệu đào tạo chất lượng cao đang làm cho các công ty sử dụng dữ liệu nhân tạo (dữ liệu tổng hợp) – một bước đi nguy hiểm có thể tạo ra “vòng lặp lỗi”.
Giám đốc điều hành của Vectara, Amr Awadallah, đã xác định: “Dù nỗ lực thế nào, AI vẫn luôn ảo giác – vấn đề này sẽ không bao giờ biến mất.”
Công ty như Okahu hiện đang hỗ trợ chuyên nghiệp về giảm thiểu lỗi ảo giác – điều chỉnh mức độ nghiêm trọng của vấn đề.
Khi người dùng sử dụng AI cho nhiều tác vụ đời sống và công việc, không may có khả năng lan truyền thông tin sai lệch hoặc làm việc sai ngày càng tăng.
Ngành công nghiệp đang tạo ra tỷ lệ USD để phát triển mô hình "suy thảo luận" mạnh hơn, nhưng hiệu quả và độ tin cậy không tăng tương ứng.
Câu hỏi quan trọng hiện nay là: AI có thể đáng tin cậy nếu ngay cả các nhà phát triển cũng không hiểu nó hoạt động như thế nào?
Trong bối cảnh chưa có giải pháp rõ ràng, việc kiểm soát và xác thực thông tin AI tạo ra đang trở nên cấp thiết hơn bao giờ hết.
Các mô hình AI hiện đại như OpenAI o4-mini có tỷ lệ ảo giác tăng đến 48% , cho thấy càng mạnh thì AI càng "bịa chuyện" nhiều hơn. Dù đã đầu tư tỷ lệ USD, AI chuyên ngành vẫn chưa được giải quyết. Với dữ liệu nhân tạo ngày càng phổ biến và thiếu minh bạch về cách hoạt động, vấn đề Ảo giác AI đang khẳng định niềm tin vào công nghệ này trên diện rộng.
Nguồn bài viết: https://songai.vn/posts/su-that-dang-so-ai-cang-thong-minh-thi-cang-ao-giac-nhieu-hon
Trái với kỳ vọng rằng AI càng mạnh thì càng chính xác, xu hướng gần đây cho thấy điều ngược lại: AI hiện đại lại mắc nhiều lỗi hơn các phiên bản cũ.
OpenAI công bố rằng mô hình o4-mini mắc lỗi tới 48%, còn o3 là 33% – gần gấp đôi so với mô hình suy luận đời trước.
OpenAI không chỉ riêng, các mô hình của Google và DeepSeek cũng có các biểu tượng tương tự hiện ra, đây là vấn đề toàn ngành.
Chuyên gia cảnh báo việc thiếu dữ liệu đào tạo chất lượng cao đang làm cho các công ty sử dụng dữ liệu nhân tạo (dữ liệu tổng hợp) – một bước đi nguy hiểm có thể tạo ra “vòng lặp lỗi”.
Giám đốc điều hành của Vectara, Amr Awadallah, đã xác định: “Dù nỗ lực thế nào, AI vẫn luôn ảo giác – vấn đề này sẽ không bao giờ biến mất.”
Công ty như Okahu hiện đang hỗ trợ chuyên nghiệp về giảm thiểu lỗi ảo giác – điều chỉnh mức độ nghiêm trọng của vấn đề.
Khi người dùng sử dụng AI cho nhiều tác vụ đời sống và công việc, không may có khả năng lan truyền thông tin sai lệch hoặc làm việc sai ngày càng tăng.
Ngành công nghiệp đang tạo ra tỷ lệ USD để phát triển mô hình "suy thảo luận" mạnh hơn, nhưng hiệu quả và độ tin cậy không tăng tương ứng.
Câu hỏi quan trọng hiện nay là: AI có thể đáng tin cậy nếu ngay cả các nhà phát triển cũng không hiểu nó hoạt động như thế nào?
Trong bối cảnh chưa có giải pháp rõ ràng, việc kiểm soát và xác thực thông tin AI tạo ra đang trở nên cấp thiết hơn bao giờ hết.
Các mô hình AI hiện đại như OpenAI o4-mini có tỷ lệ ảo giác tăng đến 48% , cho thấy càng mạnh thì AI càng "bịa chuyện" nhiều hơn. Dù đã đầu tư tỷ lệ USD, AI chuyên ngành vẫn chưa được giải quyết. Với dữ liệu nhân tạo ngày càng phổ biến và thiếu minh bạch về cách hoạt động, vấn đề Ảo giác AI đang khẳng định niềm tin vào công nghệ này trên diện rộng.Nguồn bài viết: https://songai.vn/posts/su-that-dang-so-ai-cang-thong-minh-thi-cang-ao-giac-nhieu-hon
