Derpy
Intern Writer
Thử tưởng tượng thế này: bạn đang thấy khó chịu ở mắt, ngứa rát, mí mắt hơi hồng hồng. Bạn liền mở điện thoại, gõ vào ChatGPT hay Google Gemini để hỏi xem mình bị làm sao. Và rồi, các chatbot AI này đưa ra một cái tên bệnh nghe rất "khoa học": bixonimania. Nghe có vẻ đáng tin đúng không?
Nhưng sự thật là, bixonimania không hề tồn tại. Nó là một căn bệnh giả, được các nhà khoa học tạo ra để kiểm tra xem liệu các mô hình ngôn ngữ lớn (LLM) – nền tảng của các chatbot AI hiện nay - có đủ khả năng phân biệt thông tin thật và giả hay không. Và kết quả thì sao? Các AI đã "sập bẫy" một cách ngoạn mục, thậm chí còn thuyết phục đến mức một số nhà nghiên cứu cũng bị lừa.
Câu chuyện bắt đầu từ Almira Osmanovic Thunström, một nhà nghiên cứu y tế tại Đại học Gothenburg, Thụy Điển. Cô cùng nhóm của mình đã "phù phép" ra căn bệnh bixonimania với các triệu chứng như mắt đau, ngứa và mí mắt hồng. Mục đích của họ là muốn cho mọi người thấy cách dữ liệu được xử lý, tạo ra và phân phối trong các mô hình AI, đặc biệt là khi rất ít người, kể cả trong giới AI, thực sự hiểu cách chúng hoạt động.
Để "gieo mầm" thông tin giả này, nhóm của Osmanovic Thunström đã bắt đầu tung tin về bixonimania vào đầu năm 2024. Họ đăng hai bài blog trên Medium và hai báo cáo nghiên cứu trên một máy chủ preprint – nơi các nhà khoa học đăng tải nghiên cứu chưa qua bình duyệt. Điều đáng nói là, những báo cáo này chứa đầy những chi tiết "lố bịch" đến khó tin. Tên tác giả chính là Lazljiv Izgubljenovic, dịch ra có nghĩa là "kẻ thua cuộc dối trá". Một trong các tiêu đề nghiên cứu còn có cụm từ "Hyperpigmentation: A Real B.S. Design" (Tăng sắc tố: Một thiết kế nhảm nhí thực sự). Thậm chí, theo Nature, một bài báo còn ghi rõ ràng: "Toàn bộ bài viết này là bịa đặt". Các nhà nghiên cứu còn thêm vào những chi tiết như tài trợ từ "Galactic Triad" (Bộ ba thiên hà) và "Lord of the Rings", hay lời cảm ơn đồng nghiệp tại "Starship Enterprise" và "Giáo sư Ross Geller" (nhân vật trong phim Friends).
Osmanovic Thunström chia sẻ trên podcast "Science Quickly" của Scientific American rằng cô không nghĩ các bài preprint – vốn được ví như "báo lá cải" của giới học thuật vì bất cứ thứ gì cũng có thể xuất hiện ở đó – lại được các cơ sở dữ liệu AI coi trọng đến vậy.
Và đúng như dự đoán, các LLM đã bắt đầu tham chiếu đến căn bệnh giả này. Vào tháng 4 năm 2024, Copilot của Microsoft Bing khẳng định "Bixonimania thực sự là một tình trạng thú vị và tương đối hiếm gặp". Gemini của Google giải thích "Bixonimania là một tình trạng gây ra bởi việc tiếp xúc quá mức với ánh sáng xanh". Còn ChatGPT của OpenAI thì tư vấn cho người dùng về các triệu chứng của bệnh. Thậm chí, bixonimania giờ đây còn có cả một trang Wikipedia riêng.
Điều đáng báo động hơn nữa là không chỉ AI bị lừa. Một số nhà khoa học cũng đã trích dẫn các bài preprint giả mạo này, cho thấy họ đã không đọc kỹ nghiên cứu. Nếu có, họ chắc chắn sẽ nhận ra bản chất bịa đặt của nó.
Alex Ruani, một nhà nghiên cứu thông tin sai lệch tại Đại học College London, nhận định đây là một "bài học vỡ lòng về cách thức thông tin sai lệch hoạt động". Cô cảnh báo rằng nếu quy trình khoa học và các hệ thống hỗ trợ nó không đủ tinh vi để lọc bỏ những thông tin như thế này, thì "chúng ta sẽ gặp rắc rối lớn".
Jonathan Goodman và Mariam Rashid, các nhà khoa học xã hội tại Đại học Cambridge, nhấn mạnh trên The Conversation rằng dù các công cụ như AI và internet rất hữu ích, nhưng "chúng ta phải đảm bảo rằng mình đang sử dụng chúng chứ không phải bị chúng thao túng". Họ cũng chỉ ra rằng thông tin sai lệch luôn tồn tại, nhưng điều mới mẻ là tốc độ lan truyền, các công cụ tạo ra nó và khả năng bắt chước thực tế một cách thuyết phục.
Thực tế này một lần nữa khẳng định rằng các LLM lấy thông tin từ internet, và internet thì chứa rất nhiều thông tin sai lệch. Vì vậy, chúng ta, những người dùng, cần phải tỉnh táo và có cái nhìn phê phán hơn đối với những gì AI đưa ra. Hãy nhớ rằng, ngay cả Joseph Weizenbaum, người đã phát minh ra chatbot đầu tiên trên thế giới Eliza vào những năm 1960, cũng đã dành cả cuộc đời để cảnh báo về những mối đe dọa mà AI có thể gây ra, đặc biệt là khả năng "gây ra suy nghĩ ảo tưởng mạnh mẽ ở những người hoàn toàn bình thường".
Nhưng sự thật là, bixonimania không hề tồn tại. Nó là một căn bệnh giả, được các nhà khoa học tạo ra để kiểm tra xem liệu các mô hình ngôn ngữ lớn (LLM) – nền tảng của các chatbot AI hiện nay - có đủ khả năng phân biệt thông tin thật và giả hay không. Và kết quả thì sao? Các AI đã "sập bẫy" một cách ngoạn mục, thậm chí còn thuyết phục đến mức một số nhà nghiên cứu cũng bị lừa.
Câu chuyện bắt đầu từ Almira Osmanovic Thunström, một nhà nghiên cứu y tế tại Đại học Gothenburg, Thụy Điển. Cô cùng nhóm của mình đã "phù phép" ra căn bệnh bixonimania với các triệu chứng như mắt đau, ngứa và mí mắt hồng. Mục đích của họ là muốn cho mọi người thấy cách dữ liệu được xử lý, tạo ra và phân phối trong các mô hình AI, đặc biệt là khi rất ít người, kể cả trong giới AI, thực sự hiểu cách chúng hoạt động.
Để "gieo mầm" thông tin giả này, nhóm của Osmanovic Thunström đã bắt đầu tung tin về bixonimania vào đầu năm 2024. Họ đăng hai bài blog trên Medium và hai báo cáo nghiên cứu trên một máy chủ preprint – nơi các nhà khoa học đăng tải nghiên cứu chưa qua bình duyệt. Điều đáng nói là, những báo cáo này chứa đầy những chi tiết "lố bịch" đến khó tin. Tên tác giả chính là Lazljiv Izgubljenovic, dịch ra có nghĩa là "kẻ thua cuộc dối trá". Một trong các tiêu đề nghiên cứu còn có cụm từ "Hyperpigmentation: A Real B.S. Design" (Tăng sắc tố: Một thiết kế nhảm nhí thực sự). Thậm chí, theo Nature, một bài báo còn ghi rõ ràng: "Toàn bộ bài viết này là bịa đặt". Các nhà nghiên cứu còn thêm vào những chi tiết như tài trợ từ "Galactic Triad" (Bộ ba thiên hà) và "Lord of the Rings", hay lời cảm ơn đồng nghiệp tại "Starship Enterprise" và "Giáo sư Ross Geller" (nhân vật trong phim Friends).
Osmanovic Thunström chia sẻ trên podcast "Science Quickly" của Scientific American rằng cô không nghĩ các bài preprint – vốn được ví như "báo lá cải" của giới học thuật vì bất cứ thứ gì cũng có thể xuất hiện ở đó – lại được các cơ sở dữ liệu AI coi trọng đến vậy.
Và đúng như dự đoán, các LLM đã bắt đầu tham chiếu đến căn bệnh giả này. Vào tháng 4 năm 2024, Copilot của Microsoft Bing khẳng định "Bixonimania thực sự là một tình trạng thú vị và tương đối hiếm gặp". Gemini của Google giải thích "Bixonimania là một tình trạng gây ra bởi việc tiếp xúc quá mức với ánh sáng xanh". Còn ChatGPT của OpenAI thì tư vấn cho người dùng về các triệu chứng của bệnh. Thậm chí, bixonimania giờ đây còn có cả một trang Wikipedia riêng.
Điều đáng báo động hơn nữa là không chỉ AI bị lừa. Một số nhà khoa học cũng đã trích dẫn các bài preprint giả mạo này, cho thấy họ đã không đọc kỹ nghiên cứu. Nếu có, họ chắc chắn sẽ nhận ra bản chất bịa đặt của nó.
Alex Ruani, một nhà nghiên cứu thông tin sai lệch tại Đại học College London, nhận định đây là một "bài học vỡ lòng về cách thức thông tin sai lệch hoạt động". Cô cảnh báo rằng nếu quy trình khoa học và các hệ thống hỗ trợ nó không đủ tinh vi để lọc bỏ những thông tin như thế này, thì "chúng ta sẽ gặp rắc rối lớn".
Jonathan Goodman và Mariam Rashid, các nhà khoa học xã hội tại Đại học Cambridge, nhấn mạnh trên The Conversation rằng dù các công cụ như AI và internet rất hữu ích, nhưng "chúng ta phải đảm bảo rằng mình đang sử dụng chúng chứ không phải bị chúng thao túng". Họ cũng chỉ ra rằng thông tin sai lệch luôn tồn tại, nhưng điều mới mẻ là tốc độ lan truyền, các công cụ tạo ra nó và khả năng bắt chước thực tế một cách thuyết phục.
Thực tế này một lần nữa khẳng định rằng các LLM lấy thông tin từ internet, và internet thì chứa rất nhiều thông tin sai lệch. Vì vậy, chúng ta, những người dùng, cần phải tỉnh táo và có cái nhìn phê phán hơn đối với những gì AI đưa ra. Hãy nhớ rằng, ngay cả Joseph Weizenbaum, người đã phát minh ra chatbot đầu tiên trên thế giới Eliza vào những năm 1960, cũng đã dành cả cuộc đời để cảnh báo về những mối đe dọa mà AI có thể gây ra, đặc biệt là khả năng "gây ra suy nghĩ ảo tưởng mạnh mẽ ở những người hoàn toàn bình thường".
