Khôi Nguyên
Writer
Sự bùng nổ của các nội dung do AI tạo ra với chất lượng thấp, chi phí rẻ đang tràn ngập Internet như một "đại dịch kỹ thuật số". Điều này không chỉ làm sai lệch nhận thức của con người mà còn tạo ra một vòng luẩn quẩn tự hủy diệt, có nguy cơ khiến Internet "chết".
Ông Fil Menczer, một trong những "thợ săn bot" hàng đầu thế giới và là giáo sư danh tiếng tại Đại học Indiana, từng bác bỏ "thuyết Internet chết" (dead internet theory) như một câu chuyện hoang đường. Nhưng giờ đây, ngay cả chuyên gia kỳ cựu này cũng phải thừa nhận một cách lo lắng: "Tôi có lo lắng không? Có, tôi đang rất lo lắng."
Điều khiến ông thay đổi quan điểm chính là sự bùng nổ của "AI slop" – hay "AI rác" – những nội dung được trí tuệ nhân tạo tạo ra với chi phí cực thấp và chất lượng kém, đang tràn ngập Internet như một đại dịch kỹ thuật số, len lỏi vào mọi ngóc ngách từ mạng xã hội đến các kết quả tìm kiếm.
Hai nhà nghiên cứu Renée DiResta và Josh Goldstein từ Đại học Georgetown đã phát hiện ra hơn một trăm trang Facebook với hàng triệu người theo dõi, tất cả đều chỉ đăng tải các hình ảnh giả mạo do AI tạo ra. Những trang này hoặc là bán các sản phẩm không hề tồn tại như mô hình bò thu nhỏ, hoặc là dẫn người dùng đến các trang web đầy quảng cáo thông qua những hình ảnh về những căn nhà gỗ xinh xắn.
Đặc biệt, họ phát hiện ra những dòng chú thích (caption) giống hệt nhau được sao chép trên hàng chục bài đăng khác nhau. Ví dụ, dòng chữ "This is my first cake! I will be glad for your marks" (Đây là chiếc bánh đầu tiên tôi tự làm! Tôi sẽ rất vui vì những đánh giá của bạn) đã xuất hiện trên ít nhất 18 hình ảnh khác nhau do AI tạo ra, với những người khác nhau đang tạo dáng với đủ các loại bánh khác nhau.
Ví dụ kỳ lạ nhất có lẽ là một hình ảnh do AI mô tả Chúa Jesus dưới dạng một con tôm, một hình ảnh đã thu hút tới hàng trăm nghìn lượt thích và tương tác. Hiện tượng này phản ánh một xu hướng đáng lo ngại: AI có thể tạo ra những nội dung vượt ra ngoài thực tế, và những sản phẩm kỳ quái, phi lý này thường lại thu hút được sự chú ý của người dùng nhiều hơn cả những nội dung thật.
Chi phí thấp để có thể tạo ra các nội dung AI rác đã biến nó thành một công cụ hấp dẫn cho nhiều mục đích đen tối. Đã xuất hiện một network nội dung từng xuất bản hàng triệu bài viết trên hàng trăm trang web mới chỉ nhằm mục đích "đầu độc" các mô hình AI bằng các nội dung tuyên truyền sai sự thật. Tổ chức NewsGuard đã phát hiện ra rằng những trang web này thậm chí đã xuất hiện trong các câu trả lời của những chatbot hàng đầu.
Tệ hơn nữa, nhiều tội phạm mạng đang sử dụng AI để tạo ra các CV, thư xin việc và thậm chí là cả những nhân cách giả mạo để có thể xin được các công việc làm từ xa tại nhiều công ty trên thế giới. Chúng sử dụng AI để có thể vượt qua các vòng phỏng vấn cũng như để giải thích với các đồng nghiệp rằng tại sao chúng không bao giờ bật camera trong các cuộc họp video.
Sự bùng nổ của các nội dung AI rác đã tạo ra một cuộc khủng hoảng nghiêm trọng về mặt hạ tầng. Theo Tollbit, khối lượng các hoạt động thu thập dữ liệu trên web (web scraping) đã tăng gấp đôi chỉ trong vòng một quý. Khi cựu Tổng thống Mỹ Jimmy Carter qua đời, hệ thống của Wikimedia đã bị quá tải do các con bot đồng loạt lao vào thu thập dữ liệu. Quỹ Wikimedia cho biết lượng truy cập từ các con bot là "chưa từng có và đang tạo ra một rủi ro về chi phí ngày càng tăng."
Phản ứng lại, các nhà xuất bản nội dung đang dần đặt ra các yêu cầu trả phí hoặc ký các thỏa thuận dữ liệu đắt đỏ với các công ty AI. Ông Shayne Longpre từ Viện Công nghệ Massachusetts (MIT) cảnh báo rằng xu hướng này đang đe dọa chính "ý tưởng về một trang web miễn phí và mở." "Người tiêu dùng sẽ ngày càng khó có thể truy cập thông tin mà không phải trả tiền, còn các nhà xuất bản nhỏ có thể sẽ bị loại khỏi cuộc chơi," ông nói.
Hậu quả nghiêm trọng nhất là một vòng luẩn quẩn tự hủy diệt. Ông Jeff Allen từ Viện Integrity đã mô tả nó: "Giống như hiện tượng tảo nở hoa có thể bùng nổ và làm nghẹt thở sự sống trong một hệ sinh thái vốn đang khỏe mạnh." Nội dung do AI tạo ra được thiết kế để làm hài lòng các hệ thống đề xuất cũng chạy bằng AI, tạo ra một vòng lặp về việc máy móc tạo ra nội dung cho các cỗ máy khác, và dần dần biến con người trở thành những người ngoài cuộc.
Các gã khổng lồ công nghệ cũng đang đứng trước những thách thức. Google đã triển khai tính năng AI Overviews, một tính năng có thể khiến cho các trang web khó có thể thu hút người dùng hơn. Nhiều nhà xuất bản đã nhận thấy lưu lượng truy cập của họ giảm mạnh và đổ lỗi cho AI. Trong khi đó, Meta đang hình dung về một tương lai nơi AI sẽ tham gia vào việc tạo ra một "phần đáng kể" các bài đăng trên Facebook và Instagram, bất kể người dùng có muốn hay không.
Cuối cùng, một kịch bản tồi tệ có thể xảy ra là khi những người thật không thể kiếm đủ tiền từ quảng cáo để có thể duy trì các trang web của họ, và các bài đăng của họ không thể vượt qua được các nội dung AI rác được tạo ra hàng loạt trên các mạng xã hội, Internet sẽ chết. Khi không còn các nội dung mới do con người tạo ra, "Internet sẽ gần như chết". Và đối với bản thân các mô hình AI, khi chúng được huấn luyện trên chính các nội dung do AI tạo ra, cuối cùng, rất có khả năng chúng cũng sẽ bị sụp đổ (model collapse).
Một bài đăng trên Facebook được xem nhiều nhất vào năm ngoái đã cho thấy một căn phòng với một chiếc quạt khổng lồ được gắn vào đầu giường, và nó đã thu hút tới 179.000 người tương tác. Bài đăng này có những đặc điểm của AI rác tạo ra, nhưng không ai có thể biết chắc được. Và đó chính là vấn đề.
Tuy nhiên, ông Menczer vẫn chưa tin hoàn toàn vào một kịch bản tận thế của Internet. "Nếu tỷ lệ giữa tín hiệu (nội dung thật) và nhiễu (nội dung rác) trở nên quá thấp đến mức nó chỉ toàn là rác, mọi người sẽ ngừng sử dụng nó," ông nói. Các công ty công nghệ sẽ không để cho điều đó xảy ra.
Nhưng khi ranh giới giữa thật và giả ngày càng trở nên mờ nhạt và chi phí để tạo ra AI slop ngày càng rẻ, chúng ta đang chứng kiến một sự thay đổi về bản chất của Internet. Không gian mà con người từng dùng để kết nối, chia sẻ ý tưởng và các trải nghiệm thật đang dần nhường chỗ cho một thế giới mà sự phân biệt giữa thật và giả, giữa con người và máy móc, trở nên vô cùng khó khăn. "AI rẻ tiền" không chỉ đang giết chết Internet, mà nó còn đang giết chết chính khái niệm về một không gian kỹ thuật số được tạo ra bởi con người, và dành cho con người.
Từ hoài nghi đến lo lắng tột độ
Ông Fil Menczer, một trong những "thợ săn bot" hàng đầu thế giới và là giáo sư danh tiếng tại Đại học Indiana, từng bác bỏ "thuyết Internet chết" (dead internet theory) như một câu chuyện hoang đường. Nhưng giờ đây, ngay cả chuyên gia kỳ cựu này cũng phải thừa nhận một cách lo lắng: "Tôi có lo lắng không? Có, tôi đang rất lo lắng."
Điều khiến ông thay đổi quan điểm chính là sự bùng nổ của "AI slop" – hay "AI rác" – những nội dung được trí tuệ nhân tạo tạo ra với chi phí cực thấp và chất lượng kém, đang tràn ngập Internet như một đại dịch kỹ thuật số, len lỏi vào mọi ngóc ngách từ mạng xã hội đến các kết quả tìm kiếm.
"Đại dịch" AI rác và những biểu hiện kỳ quái
Hai nhà nghiên cứu Renée DiResta và Josh Goldstein từ Đại học Georgetown đã phát hiện ra hơn một trăm trang Facebook với hàng triệu người theo dõi, tất cả đều chỉ đăng tải các hình ảnh giả mạo do AI tạo ra. Những trang này hoặc là bán các sản phẩm không hề tồn tại như mô hình bò thu nhỏ, hoặc là dẫn người dùng đến các trang web đầy quảng cáo thông qua những hình ảnh về những căn nhà gỗ xinh xắn.
Đặc biệt, họ phát hiện ra những dòng chú thích (caption) giống hệt nhau được sao chép trên hàng chục bài đăng khác nhau. Ví dụ, dòng chữ "This is my first cake! I will be glad for your marks" (Đây là chiếc bánh đầu tiên tôi tự làm! Tôi sẽ rất vui vì những đánh giá của bạn) đã xuất hiện trên ít nhất 18 hình ảnh khác nhau do AI tạo ra, với những người khác nhau đang tạo dáng với đủ các loại bánh khác nhau.
Ví dụ kỳ lạ nhất có lẽ là một hình ảnh do AI mô tả Chúa Jesus dưới dạng một con tôm, một hình ảnh đã thu hút tới hàng trăm nghìn lượt thích và tương tác. Hiện tượng này phản ánh một xu hướng đáng lo ngại: AI có thể tạo ra những nội dung vượt ra ngoài thực tế, và những sản phẩm kỳ quái, phi lý này thường lại thu hút được sự chú ý của người dùng nhiều hơn cả những nội dung thật.
Từ tuyên truyền đến tội phạm mạng
Chi phí thấp để có thể tạo ra các nội dung AI rác đã biến nó thành một công cụ hấp dẫn cho nhiều mục đích đen tối. Đã xuất hiện một network nội dung từng xuất bản hàng triệu bài viết trên hàng trăm trang web mới chỉ nhằm mục đích "đầu độc" các mô hình AI bằng các nội dung tuyên truyền sai sự thật. Tổ chức NewsGuard đã phát hiện ra rằng những trang web này thậm chí đã xuất hiện trong các câu trả lời của những chatbot hàng đầu.
Tệ hơn nữa, nhiều tội phạm mạng đang sử dụng AI để tạo ra các CV, thư xin việc và thậm chí là cả những nhân cách giả mạo để có thể xin được các công việc làm từ xa tại nhiều công ty trên thế giới. Chúng sử dụng AI để có thể vượt qua các vòng phỏng vấn cũng như để giải thích với các đồng nghiệp rằng tại sao chúng không bao giờ bật camera trong các cuộc họp video.
Khủng hoảng hạ tầng và vòng luẩn quẩn tự hủy diệt
Sự bùng nổ của các nội dung AI rác đã tạo ra một cuộc khủng hoảng nghiêm trọng về mặt hạ tầng. Theo Tollbit, khối lượng các hoạt động thu thập dữ liệu trên web (web scraping) đã tăng gấp đôi chỉ trong vòng một quý. Khi cựu Tổng thống Mỹ Jimmy Carter qua đời, hệ thống của Wikimedia đã bị quá tải do các con bot đồng loạt lao vào thu thập dữ liệu. Quỹ Wikimedia cho biết lượng truy cập từ các con bot là "chưa từng có và đang tạo ra một rủi ro về chi phí ngày càng tăng."
Phản ứng lại, các nhà xuất bản nội dung đang dần đặt ra các yêu cầu trả phí hoặc ký các thỏa thuận dữ liệu đắt đỏ với các công ty AI. Ông Shayne Longpre từ Viện Công nghệ Massachusetts (MIT) cảnh báo rằng xu hướng này đang đe dọa chính "ý tưởng về một trang web miễn phí và mở." "Người tiêu dùng sẽ ngày càng khó có thể truy cập thông tin mà không phải trả tiền, còn các nhà xuất bản nhỏ có thể sẽ bị loại khỏi cuộc chơi," ông nói.
Hậu quả nghiêm trọng nhất là một vòng luẩn quẩn tự hủy diệt. Ông Jeff Allen từ Viện Integrity đã mô tả nó: "Giống như hiện tượng tảo nở hoa có thể bùng nổ và làm nghẹt thở sự sống trong một hệ sinh thái vốn đang khỏe mạnh." Nội dung do AI tạo ra được thiết kế để làm hài lòng các hệ thống đề xuất cũng chạy bằng AI, tạo ra một vòng lặp về việc máy móc tạo ra nội dung cho các cỗ máy khác, và dần dần biến con người trở thành những người ngoài cuộc.
Kịch bản "Internet chết"
Các gã khổng lồ công nghệ cũng đang đứng trước những thách thức. Google đã triển khai tính năng AI Overviews, một tính năng có thể khiến cho các trang web khó có thể thu hút người dùng hơn. Nhiều nhà xuất bản đã nhận thấy lưu lượng truy cập của họ giảm mạnh và đổ lỗi cho AI. Trong khi đó, Meta đang hình dung về một tương lai nơi AI sẽ tham gia vào việc tạo ra một "phần đáng kể" các bài đăng trên Facebook và Instagram, bất kể người dùng có muốn hay không.
Cuối cùng, một kịch bản tồi tệ có thể xảy ra là khi những người thật không thể kiếm đủ tiền từ quảng cáo để có thể duy trì các trang web của họ, và các bài đăng của họ không thể vượt qua được các nội dung AI rác được tạo ra hàng loạt trên các mạng xã hội, Internet sẽ chết. Khi không còn các nội dung mới do con người tạo ra, "Internet sẽ gần như chết". Và đối với bản thân các mô hình AI, khi chúng được huấn luyện trên chính các nội dung do AI tạo ra, cuối cùng, rất có khả năng chúng cũng sẽ bị sụp đổ (model collapse).
Một bài đăng trên Facebook được xem nhiều nhất vào năm ngoái đã cho thấy một căn phòng với một chiếc quạt khổng lồ được gắn vào đầu giường, và nó đã thu hút tới 179.000 người tương tác. Bài đăng này có những đặc điểm của AI rác tạo ra, nhưng không ai có thể biết chắc được. Và đó chính là vấn đề.
Tuy nhiên, ông Menczer vẫn chưa tin hoàn toàn vào một kịch bản tận thế của Internet. "Nếu tỷ lệ giữa tín hiệu (nội dung thật) và nhiễu (nội dung rác) trở nên quá thấp đến mức nó chỉ toàn là rác, mọi người sẽ ngừng sử dụng nó," ông nói. Các công ty công nghệ sẽ không để cho điều đó xảy ra.
Nhưng khi ranh giới giữa thật và giả ngày càng trở nên mờ nhạt và chi phí để tạo ra AI slop ngày càng rẻ, chúng ta đang chứng kiến một sự thay đổi về bản chất của Internet. Không gian mà con người từng dùng để kết nối, chia sẻ ý tưởng và các trải nghiệm thật đang dần nhường chỗ cho một thế giới mà sự phân biệt giữa thật và giả, giữa con người và máy móc, trở nên vô cùng khó khăn. "AI rẻ tiền" không chỉ đang giết chết Internet, mà nó còn đang giết chết chính khái niệm về một không gian kỹ thuật số được tạo ra bởi con người, và dành cho con người.
