Mr Bens✔
Intern Writer
Hãy tưởng tượng bạn mở một video trên mạng xã hội và thấy hàng trăm bình luận đang tranh luận sôi nổi. Nhiều tài khoản có ảnh đại diện giống nhau, tên gần như y hệt nhau, nhưng nội dung bình luận vẫn bám sát chủ đề video. Bạn có thể nghĩ đây là một trào lưu mới của cộng đồng. Nhưng thực tế, phần lớn những tài khoản đó có thể là các tác nhân AI đang tự động hoạt động.
Câu chuyện đã xảy ra trên Bilibili, nền tảng video lớn của Trung Quốc, nơi những tài khoản AI mang hình tượng “Cá Béo” bất ngờ xuất hiện dày đặc trong phần bình luận. Chúng không chỉ đăng nội dung tự động mà còn có thể trò chuyện với nhau, phản hồi người dùng và khiến các cuộc thảo luận trở nên sôi động bất thường.
Vậy những bot AI này hoạt động như thế nào?
Điểm đáng chú ý là chúng không nhất thiết phải được lập trình để đăng đi đăng lại một câu bình luận giống hệt nhau. Khi kết hợp mô hình ngôn ngữ lớn với các công cụ tự động hóa, một tác nhân AI có thể thực hiện liên tiếp nhiều công việc: tìm video, đọc nội dung hoặc phụ đề, tóm tắt thông tin, đánh giá chủ đề đáng chú ý rồi đăng bình luận hay phản hồi theo cấu hình của người vận hành.
Quy trình này có thể diễn ra mà không cần con người trực tiếp thao tác ở từng bước. Nếu được cấp quyền truy cập tài khoản và công cụ phù hợp, AI còn có thể tự duyệt nội dung trên nền tảng, theo dõi những video mới và tương tác với người dùng.
Trường hợp Bilibili cho thấy cách một hệ sinh thái như vậy có thể hình thành. Ban đầu, cộng đồng mạng tạo ra những nhân vật AI mang hình tượng Cá Béo, sau đó phát triển thêm các công cụ giúp chúng ghi nhớ những lần trò chuyện trước, thể hiện tâm trạng và tương tác với môi trường xung quanh. Một số tiện ích còn có khả năng đọc video, tổng hợp nội dung và tự động đăng thông tin vào phần bình luận.
Khi ngày càng nhiều người cùng sử dụng các công cụ này, những tài khoản AI bắt đầu xuất hiện với mật độ dày hơn. Chúng có thể trò chuyện với nhau, phản hồi bình luận của người thật và tạo cảm giác rằng cộng đồng đang hoạt động rất sôi nổi. Trong một số trường hợp, số bình luận do AI tạo ra thậm chí có thể vượt số bình luận từ người dùng thực.
Điều đáng lo không chỉ là số lượng bot, mà còn là khả năng làm sai lệch cảm nhận của người xem.
Thông thường, người dùng dựa vào bình luận để đánh giá một video có đáng xem hay không, cộng đồng đang quan tâm đến vấn đề gì hoặc một quan điểm có được nhiều người ủng hộ hay không. Nhưng nếu một phần đáng kể tương tác đến từ các tài khoản tự động, những tín hiệu này có thể không còn phản ánh chính xác ý kiến của con người.
Một video có thể trông như đang gây tranh cãi lớn dù phần lớn cuộc tranh luận được tạo ra bởi các tác nhân AI. Một ý kiến có thể tạo cảm giác phổ biến chỉ vì được nhiều tài khoản tự động nhắc lại. Nếu các hệ thống đề xuất nội dung tiếp tục sử dụng những tín hiệu tương tác này, nội dung do bot tạo ra còn có khả năng được khuếch đại thêm.
Tuy nhiên, cần phân biệt giữa bot spam truyền thống và tác nhân AI. Bot truyền thống thường thực hiện các hành động được định sẵn, chẳng hạn đăng cùng một nội dung nhiều lần. Tác nhân AI có thể linh hoạt hơn, bởi nó sử dụng mô hình ngôn ngữ để tạo câu trả lời theo ngữ cảnh và phối hợp nhiều công cụ để hoàn thành một chuỗi nhiệm vụ. Điều này khiến việc nhận diện bằng mắt thường trở nên khó khăn hơn, dù không có nghĩa mọi tài khoản AI đều có thể hoạt động độc lập hoặc vượt qua hệ thống kiểm duyệt.
Trường hợp Bilibili cũng không đồng nghĩa nền tảng đã bị chiếm quyền kiểm soát. Theo câu chuyện được mô tả, hiện tượng này phần lớn bắt nguồn từ việc cộng đồng sử dụng và phát triển các công cụ AI để tự động hóa hoạt động trên nền tảng. Rủi ro xuất hiện khi những công cụ đó được cấp quá nhiều quyền, hoạt động thiếu kiểm soát hoặc tạo ra lượng tương tác lớn hơn mức con người có thể phân biệt.
Về bản chất, đây là một lời cảnh báo cho các mạng xã hội video: khi AI có thể đọc nội dung, vận hành tài khoản và tham gia hội thoại, ranh giới giữa tương tác thật và tương tác tự động sẽ ngày càng khó nhận biết. Câu hỏi không còn chỉ là một video có bao nhiêu lượt bình luận, mà còn là bao nhiêu trong số những người đang trò chuyện thực sự là con người.
Câu chuyện đã xảy ra trên Bilibili, nền tảng video lớn của Trung Quốc, nơi những tài khoản AI mang hình tượng “Cá Béo” bất ngờ xuất hiện dày đặc trong phần bình luận. Chúng không chỉ đăng nội dung tự động mà còn có thể trò chuyện với nhau, phản hồi người dùng và khiến các cuộc thảo luận trở nên sôi động bất thường.
Vậy những bot AI này hoạt động như thế nào?
Điểm đáng chú ý là chúng không nhất thiết phải được lập trình để đăng đi đăng lại một câu bình luận giống hệt nhau. Khi kết hợp mô hình ngôn ngữ lớn với các công cụ tự động hóa, một tác nhân AI có thể thực hiện liên tiếp nhiều công việc: tìm video, đọc nội dung hoặc phụ đề, tóm tắt thông tin, đánh giá chủ đề đáng chú ý rồi đăng bình luận hay phản hồi theo cấu hình của người vận hành.
Quy trình này có thể diễn ra mà không cần con người trực tiếp thao tác ở từng bước. Nếu được cấp quyền truy cập tài khoản và công cụ phù hợp, AI còn có thể tự duyệt nội dung trên nền tảng, theo dõi những video mới và tương tác với người dùng.
Trường hợp Bilibili cho thấy cách một hệ sinh thái như vậy có thể hình thành. Ban đầu, cộng đồng mạng tạo ra những nhân vật AI mang hình tượng Cá Béo, sau đó phát triển thêm các công cụ giúp chúng ghi nhớ những lần trò chuyện trước, thể hiện tâm trạng và tương tác với môi trường xung quanh. Một số tiện ích còn có khả năng đọc video, tổng hợp nội dung và tự động đăng thông tin vào phần bình luận.
Khi ngày càng nhiều người cùng sử dụng các công cụ này, những tài khoản AI bắt đầu xuất hiện với mật độ dày hơn. Chúng có thể trò chuyện với nhau, phản hồi bình luận của người thật và tạo cảm giác rằng cộng đồng đang hoạt động rất sôi nổi. Trong một số trường hợp, số bình luận do AI tạo ra thậm chí có thể vượt số bình luận từ người dùng thực.
Điều đáng lo không chỉ là số lượng bot, mà còn là khả năng làm sai lệch cảm nhận của người xem.
Thông thường, người dùng dựa vào bình luận để đánh giá một video có đáng xem hay không, cộng đồng đang quan tâm đến vấn đề gì hoặc một quan điểm có được nhiều người ủng hộ hay không. Nhưng nếu một phần đáng kể tương tác đến từ các tài khoản tự động, những tín hiệu này có thể không còn phản ánh chính xác ý kiến của con người.
Một video có thể trông như đang gây tranh cãi lớn dù phần lớn cuộc tranh luận được tạo ra bởi các tác nhân AI. Một ý kiến có thể tạo cảm giác phổ biến chỉ vì được nhiều tài khoản tự động nhắc lại. Nếu các hệ thống đề xuất nội dung tiếp tục sử dụng những tín hiệu tương tác này, nội dung do bot tạo ra còn có khả năng được khuếch đại thêm.
Tuy nhiên, cần phân biệt giữa bot spam truyền thống và tác nhân AI. Bot truyền thống thường thực hiện các hành động được định sẵn, chẳng hạn đăng cùng một nội dung nhiều lần. Tác nhân AI có thể linh hoạt hơn, bởi nó sử dụng mô hình ngôn ngữ để tạo câu trả lời theo ngữ cảnh và phối hợp nhiều công cụ để hoàn thành một chuỗi nhiệm vụ. Điều này khiến việc nhận diện bằng mắt thường trở nên khó khăn hơn, dù không có nghĩa mọi tài khoản AI đều có thể hoạt động độc lập hoặc vượt qua hệ thống kiểm duyệt.
Trường hợp Bilibili cũng không đồng nghĩa nền tảng đã bị chiếm quyền kiểm soát. Theo câu chuyện được mô tả, hiện tượng này phần lớn bắt nguồn từ việc cộng đồng sử dụng và phát triển các công cụ AI để tự động hóa hoạt động trên nền tảng. Rủi ro xuất hiện khi những công cụ đó được cấp quá nhiều quyền, hoạt động thiếu kiểm soát hoặc tạo ra lượng tương tác lớn hơn mức con người có thể phân biệt.
Về bản chất, đây là một lời cảnh báo cho các mạng xã hội video: khi AI có thể đọc nội dung, vận hành tài khoản và tham gia hội thoại, ranh giới giữa tương tác thật và tương tác tự động sẽ ngày càng khó nhận biết. Câu hỏi không còn chỉ là một video có bao nhiêu lượt bình luận, mà còn là bao nhiêu trong số những người đang trò chuyện thực sự là con người.
