Derpy
Intern Writer
Vào những năm 2000, công ty dược phẩm Hoa Kỳ Wyeth đã bị hàng nghìn phụ nữ kiện cáo vì phát triển bệnh ung thư vú sau khi sử dụng các loại thuốc thay thế hormone của công ty này. Các tài liệu của tòa án đã tiết lộ vai trò của "nhiều bài đánh giá và bình luận được viết bởi người khác và công bố trên các tạp chí y khoa cùng các tài liệu bổ sung, nhằm quảng bá những lợi ích chưa được chứng minh và giảm thiểu tác hại" liên quan đến các loại thuốc này. Wyeth, sau này được Pfizer mua lại vào năm 2009, đã trả tiền cho một công ty truyền thông y tế để sản xuất những bài viết này, được công bố dưới tên của những bác sĩ hàng đầu trong lĩnh vực (với sự đồng ý của họ). Bất kỳ chuyên gia y tế nào đọc các bài viết này và dựa vào đó để đưa ra lời khuyên kê đơn sẽ không hề hay biết rằng Wyeth đứng sau chúng. Công ty dược phẩm này khẳng định rằng mọi thứ được viết đều chính xác về mặt khoa học và - thật đáng ngạc nhiên - việc trả tiền cho các nhà văn ma để làm những dịch vụ như vậy là điều phổ biến trong ngành.
Cuối cùng Pfizer đã phải chi trả hơn 1 tỷ USD (tương đương khoảng 23.500 tỷ VNĐ) để bồi thường cho các tác hại từ các loại thuốc này. Những bài viết trên là một ví dụ điển hình về "resmearch" - một khoa học giả tạo phục vụ cho các lợi ích của tập đoàn. Trong khi phần lớn các nhà nghiên cứu đều có động lực để khám phá sự thật và kiểm tra kết quả một cách nghiêm túc, thì resmearch lại không quan tâm đến sự thật - nó chỉ tìm cách thuyết phục. Gần đây, chúng ta cũng đã thấy nhiều ví dụ tương tự, như các công ty nước ngọt và các nhà sản xuất thịt tài trợ cho các nghiên cứu có khả năng thấp hơn so với nghiên cứu độc lập để chỉ ra mối liên hệ giữa sản phẩm và các rủi ro sức khỏe.
Một mối lo ngại lớn hiện nay là các công cụ AI làm giảm chi phí sản xuất những bằng chứng này gần như về con số không. Chỉ vài năm trước, việc sản xuất một bài báo có thể mất hàng tháng. Giờ đây, một cá nhân sử dụng AI có thể tạo ra nhiều bài báo có vẻ hợp lệ chỉ trong vài giờ. Hiện tại, tài liệu về sức khỏe cộng đồng đang chứng kiến một loạt các bài báo dựa trên dữ liệu được tối ưu hóa cho AI để báo cáo các kết quả đơn yếu tố. Các kết quả đơn yếu tố liên kết một yếu tố với một kết quả sức khỏe nào đó, chẳng hạn như tìm thấy mối liên hệ giữa việc ăn trứng và phát triển chứng mất trí. Những nghiên cứu này dễ dẫn đến kết quả sai lệch. Khi các tập dữ liệu bao gồm hàng nghìn người và hàng trăm thông tin về họ, các nhà nghiên cứu sẽ không thể không tìm thấy các tương quan gây hiểu lầm xảy ra chỉ do ngẫu nhiên.
Một tìm kiếm trên các cơ sở dữ liệu học thuật hàng đầu Scopus và Pubmed cho thấy trung bình có bốn nghiên cứu đơn yếu tố được công bố mỗi năm giữa năm 2014 và 2021. Chỉ trong mười tháng đầu năm 2024, con số này đã lên tới 190 bài. Những nghiên cứu này chưa chắc đã bị ảnh hưởng bởi lợi ích doanh nghiệp - một số có thể là kết quả của các học giả đang tìm cách công bố nhiều tài liệu hơn để cải thiện triển vọng nghề nghiệp của họ. Điểm quan trọng là việc AI tạo điều kiện cho những loại nghiên cứu này trở thành một cám dỗ gia tăng cho các doanh nghiệp muốn quảng bá sản phẩm của họ.
Cũng đáng lưu ý là Vương Quốc Anh vừa đưa ra một động lực bổ sung cho các doanh nghiệp sản xuất đồ ăn cho trẻ sơ sinh. Hướng dẫn chính phủ mới yêu cầu các nhà sản xuất thực phẩm cho trẻ em chỉ đưa ra các tuyên bố tiếp thị gợi ý lợi ích sức khỏe nếu điều đó được hỗ trợ bởi bằng chứng khoa học. Mặc dù có ý định tốt, nhưng quy định này sẽ tạo động lực cho các công ty tìm kiếm các kết quả cho thấy sản phẩm của họ là tốt cho sức khỏe. Điều này có thể làm tăng cầu đối với loại "bằng chứng khoa học" hỗ trợ bằng AI đang ngày càng trở nên phổ biến.
Một vấn đề chính nằm ở chỗ nghiên cứu không phải lúc nào cũng trải qua quy trình đánh giá đồng nghiệp trước khi có ảnh hưởng đến chính sách. Vào năm 2021, chẳng hạn, thẩm phán Tòa án Tối cao Hoa Kỳ Samuel Alito, trong một ý kiến về quyền sở hữu vũ khí, đã trích dẫn một tài liệu tóm tắt của một học giả tại Georgetown đã trình bày dữ liệu khảo sát về việc sử dụng súng. Học giả và khảo sát về súng này được tài trợ bởi Quỹ Bảo vệ Hiến pháp, mà New York Times mô tả là một "tổ chức phi lợi nhuận ủng hộ súng". Do dữ liệu khảo sát không được công khai và học giả từ chối trả lời các câu hỏi về vấn đề này, nên không thể biết liệu kết quả của ông có phải là resmearch hay không. Tuy nhiên, các luật sư đã dẫn chứng bài báo của ông trong các vụ án trên toàn nước Mỹ để bảo vệ lợi ích vũ khí.
Một bài học rõ ràng là bất kỳ ai dựa vào nghiên cứu đều nên thận trọng với những nghiên cứu chưa qua đánh giá đồng nghiệp. Một bài học ít rõ ràng hơn là chúng ta cũng cần cải cách quy trình đánh giá đồng nghiệp. Trong những năm gần đây có nhiều cuộc thảo luận về sự bùng nổ trong nghiên cứu được công bố và mức độ mà các nhà đánh giá thực hiện công việc của họ một cách đúng đắn. Trong khoảng một thập kỷ qua, một số nhóm nhà nghiên cứu đã có những bước tiến đáng kể trong việc xác định các quy trình có thể giảm thiểu nguy cơ tìm thấy những phát hiện sai lệch trong các bài báo được công bố.
Các tiến bộ bao gồm việc yêu cầu tác giả công bố một kế hoạch nghiên cứu trước khi bắt đầu bất kỳ công việc nào (được gọi là đăng ký trước), sau đó là báo cáo một cách minh bạch tất cả các bước nghiên cứu đã thực hiện trong một nghiên cứu và đảm bảo rằng các nhà đánh giá kiểm tra điều này một cách có trật tự. Đối với các bài báo đơn yếu tố, hiện có một phương pháp gọi là phân tích đường chỉ định có khả năng kiểm tra toàn diện tính vững chắc của mối quan hệ đã được khẳng định so với các cách tiếp cận khác nhau trong việc phân tích dữ liệu. Các biên tập viên tạp chí trong nhiều lĩnh vực đã áp dụng những đề xuất này và cũng đã cập nhật quy định của họ theo nhiều cách khác. Họ thường yêu cầu tác giả công bố dữ liệu, mã và các tài liệu hoặc tài liệu được sử dụng trong các thí nghiệm (chẳng hạn như bảng câu hỏi, tác nhân kích thích và v.v.). Tác giả cũng phải công khai xung đột lợi ích và nguồn tài trợ.
Một số tạp chí đã đi xa hơn, chẳng hạn như yêu cầu tác giả trích dẫn tất cả các phân tích thứ cấp tương tự đã được công bố và công bố cách mà AI được sử dụng trong công việc của họ. Một số lĩnh vực rõ ràng đã có nhiều cải cách hơn so với những lĩnh vực khác. Theo kinh nghiệm của tôi, các tạp chí tâm lý học đã tiến xa hơn trong việc áp dụng những quy trình này so với các tạp chí kinh tế. Ví dụ, một nghiên cứu gần đây đã áp dụng các kiểm tra độ tin cậy bổ sung cho các phân tích được công bố trong tạp chí American Economic Review hàng đầu. Nghiên cứu này cho thấy rằng các nghiên cứu được công bố trong tạp chí đó đã phóng đại một cách hệ thống sức mạnh của bằng chứng có trong dữ liệu.
Tổng thể, hệ thống hiện tại dường như không đủ năng lực để đối phó với cơn lũ các bài báo mà AI sẽ tạo ra. Các nhà đánh giá cần đầu tư thời gian, công sức và sự chú ý cẩn thận để kiểm tra các đăng ký trước, các phân tích đường chỉ định, dữ liệu, mã và hơn thế nữa. Điều này yêu cầu một cơ chế đánh giá đồng nghiệp thưởng cho các nhà đánh giá vì chất lượng đánh giá của họ. Niềm tin của công chúng vào khoa học vẫn cao trên toàn cầu. Điều đó thật tốt cho xã hội vì phương pháp khoa học là một thẩm phán công bằng, thúc đẩy những gì là đúng đắn và có ý nghĩa chứ không phải những gì phổ biến hay có lợi nhuận. Tuy nhiên, AI đe dọa đưa chúng ta xa hơn khỏi lý tưởng đó bao giờ hết. Nếu khoa học muốn duy trì sự tín nhiệm của mình, chúng ta cấp thiết cần tạo động lực cho sự đánh giá đồng nghiệp có ý nghĩa.
Nguồn tham khảo: Techxplore
Cuối cùng Pfizer đã phải chi trả hơn 1 tỷ USD (tương đương khoảng 23.500 tỷ VNĐ) để bồi thường cho các tác hại từ các loại thuốc này. Những bài viết trên là một ví dụ điển hình về "resmearch" - một khoa học giả tạo phục vụ cho các lợi ích của tập đoàn. Trong khi phần lớn các nhà nghiên cứu đều có động lực để khám phá sự thật và kiểm tra kết quả một cách nghiêm túc, thì resmearch lại không quan tâm đến sự thật - nó chỉ tìm cách thuyết phục. Gần đây, chúng ta cũng đã thấy nhiều ví dụ tương tự, như các công ty nước ngọt và các nhà sản xuất thịt tài trợ cho các nghiên cứu có khả năng thấp hơn so với nghiên cứu độc lập để chỉ ra mối liên hệ giữa sản phẩm và các rủi ro sức khỏe.
Một mối lo ngại lớn hiện nay là các công cụ AI làm giảm chi phí sản xuất những bằng chứng này gần như về con số không. Chỉ vài năm trước, việc sản xuất một bài báo có thể mất hàng tháng. Giờ đây, một cá nhân sử dụng AI có thể tạo ra nhiều bài báo có vẻ hợp lệ chỉ trong vài giờ. Hiện tại, tài liệu về sức khỏe cộng đồng đang chứng kiến một loạt các bài báo dựa trên dữ liệu được tối ưu hóa cho AI để báo cáo các kết quả đơn yếu tố. Các kết quả đơn yếu tố liên kết một yếu tố với một kết quả sức khỏe nào đó, chẳng hạn như tìm thấy mối liên hệ giữa việc ăn trứng và phát triển chứng mất trí. Những nghiên cứu này dễ dẫn đến kết quả sai lệch. Khi các tập dữ liệu bao gồm hàng nghìn người và hàng trăm thông tin về họ, các nhà nghiên cứu sẽ không thể không tìm thấy các tương quan gây hiểu lầm xảy ra chỉ do ngẫu nhiên.
Một tìm kiếm trên các cơ sở dữ liệu học thuật hàng đầu Scopus và Pubmed cho thấy trung bình có bốn nghiên cứu đơn yếu tố được công bố mỗi năm giữa năm 2014 và 2021. Chỉ trong mười tháng đầu năm 2024, con số này đã lên tới 190 bài. Những nghiên cứu này chưa chắc đã bị ảnh hưởng bởi lợi ích doanh nghiệp - một số có thể là kết quả của các học giả đang tìm cách công bố nhiều tài liệu hơn để cải thiện triển vọng nghề nghiệp của họ. Điểm quan trọng là việc AI tạo điều kiện cho những loại nghiên cứu này trở thành một cám dỗ gia tăng cho các doanh nghiệp muốn quảng bá sản phẩm của họ.
Cũng đáng lưu ý là Vương Quốc Anh vừa đưa ra một động lực bổ sung cho các doanh nghiệp sản xuất đồ ăn cho trẻ sơ sinh. Hướng dẫn chính phủ mới yêu cầu các nhà sản xuất thực phẩm cho trẻ em chỉ đưa ra các tuyên bố tiếp thị gợi ý lợi ích sức khỏe nếu điều đó được hỗ trợ bởi bằng chứng khoa học. Mặc dù có ý định tốt, nhưng quy định này sẽ tạo động lực cho các công ty tìm kiếm các kết quả cho thấy sản phẩm của họ là tốt cho sức khỏe. Điều này có thể làm tăng cầu đối với loại "bằng chứng khoa học" hỗ trợ bằng AI đang ngày càng trở nên phổ biến.
Một vấn đề chính nằm ở chỗ nghiên cứu không phải lúc nào cũng trải qua quy trình đánh giá đồng nghiệp trước khi có ảnh hưởng đến chính sách. Vào năm 2021, chẳng hạn, thẩm phán Tòa án Tối cao Hoa Kỳ Samuel Alito, trong một ý kiến về quyền sở hữu vũ khí, đã trích dẫn một tài liệu tóm tắt của một học giả tại Georgetown đã trình bày dữ liệu khảo sát về việc sử dụng súng. Học giả và khảo sát về súng này được tài trợ bởi Quỹ Bảo vệ Hiến pháp, mà New York Times mô tả là một "tổ chức phi lợi nhuận ủng hộ súng". Do dữ liệu khảo sát không được công khai và học giả từ chối trả lời các câu hỏi về vấn đề này, nên không thể biết liệu kết quả của ông có phải là resmearch hay không. Tuy nhiên, các luật sư đã dẫn chứng bài báo của ông trong các vụ án trên toàn nước Mỹ để bảo vệ lợi ích vũ khí.
Một bài học rõ ràng là bất kỳ ai dựa vào nghiên cứu đều nên thận trọng với những nghiên cứu chưa qua đánh giá đồng nghiệp. Một bài học ít rõ ràng hơn là chúng ta cũng cần cải cách quy trình đánh giá đồng nghiệp. Trong những năm gần đây có nhiều cuộc thảo luận về sự bùng nổ trong nghiên cứu được công bố và mức độ mà các nhà đánh giá thực hiện công việc của họ một cách đúng đắn. Trong khoảng một thập kỷ qua, một số nhóm nhà nghiên cứu đã có những bước tiến đáng kể trong việc xác định các quy trình có thể giảm thiểu nguy cơ tìm thấy những phát hiện sai lệch trong các bài báo được công bố.
Các tiến bộ bao gồm việc yêu cầu tác giả công bố một kế hoạch nghiên cứu trước khi bắt đầu bất kỳ công việc nào (được gọi là đăng ký trước), sau đó là báo cáo một cách minh bạch tất cả các bước nghiên cứu đã thực hiện trong một nghiên cứu và đảm bảo rằng các nhà đánh giá kiểm tra điều này một cách có trật tự. Đối với các bài báo đơn yếu tố, hiện có một phương pháp gọi là phân tích đường chỉ định có khả năng kiểm tra toàn diện tính vững chắc của mối quan hệ đã được khẳng định so với các cách tiếp cận khác nhau trong việc phân tích dữ liệu. Các biên tập viên tạp chí trong nhiều lĩnh vực đã áp dụng những đề xuất này và cũng đã cập nhật quy định của họ theo nhiều cách khác. Họ thường yêu cầu tác giả công bố dữ liệu, mã và các tài liệu hoặc tài liệu được sử dụng trong các thí nghiệm (chẳng hạn như bảng câu hỏi, tác nhân kích thích và v.v.). Tác giả cũng phải công khai xung đột lợi ích và nguồn tài trợ.
Một số tạp chí đã đi xa hơn, chẳng hạn như yêu cầu tác giả trích dẫn tất cả các phân tích thứ cấp tương tự đã được công bố và công bố cách mà AI được sử dụng trong công việc của họ. Một số lĩnh vực rõ ràng đã có nhiều cải cách hơn so với những lĩnh vực khác. Theo kinh nghiệm của tôi, các tạp chí tâm lý học đã tiến xa hơn trong việc áp dụng những quy trình này so với các tạp chí kinh tế. Ví dụ, một nghiên cứu gần đây đã áp dụng các kiểm tra độ tin cậy bổ sung cho các phân tích được công bố trong tạp chí American Economic Review hàng đầu. Nghiên cứu này cho thấy rằng các nghiên cứu được công bố trong tạp chí đó đã phóng đại một cách hệ thống sức mạnh của bằng chứng có trong dữ liệu.
Tổng thể, hệ thống hiện tại dường như không đủ năng lực để đối phó với cơn lũ các bài báo mà AI sẽ tạo ra. Các nhà đánh giá cần đầu tư thời gian, công sức và sự chú ý cẩn thận để kiểm tra các đăng ký trước, các phân tích đường chỉ định, dữ liệu, mã và hơn thế nữa. Điều này yêu cầu một cơ chế đánh giá đồng nghiệp thưởng cho các nhà đánh giá vì chất lượng đánh giá của họ. Niềm tin của công chúng vào khoa học vẫn cao trên toàn cầu. Điều đó thật tốt cho xã hội vì phương pháp khoa học là một thẩm phán công bằng, thúc đẩy những gì là đúng đắn và có ý nghĩa chứ không phải những gì phổ biến hay có lợi nhuận. Tuy nhiên, AI đe dọa đưa chúng ta xa hơn khỏi lý tưởng đó bao giờ hết. Nếu khoa học muốn duy trì sự tín nhiệm của mình, chúng ta cấp thiết cần tạo động lực cho sự đánh giá đồng nghiệp có ý nghĩa.
Nguồn tham khảo: Techxplore
