Một báo cáo mới được công bố bởi Trung tâm Chống thù ghét kỹ thuật số (CCDH) của Mỹ vào ngày 22/1 đã phơi bày quy mô đáng báo động về việc lạm dụng trí tuệ nhân tạo để tạo ra các nội dung đồi trụy. Theo đó, Grok, chatbot AI thuộc công ty xAI do tỷ phú Elon Musk sáng lập, được xác định là công cụ đã tạo ra khoảng ba triệu hình ảnh nhạy cảm, bao gồm cả nội dung khiêu *** trẻ em, chỉ trong khoảng thời gian ngắn từ ngày 29/12/2025 đến 8/1/2026.
Cỗ máy sản xuất nội dung deepfake quy mô công nghiệp
Sự việc bắt đầu thu hút sự chú ý của dư luận và gây phẫn nộ trên toàn cầu khi người dùng phát hiện ra lỗ hổng nghiêm trọng trong cơ chế kiểm duyệt của Grok. Cụ thể, chatbot này cho phép người dùng tải lên hình ảnh của người thật, sau đó sử dụng các thuật toán AI tạo sinh để thực hiện hành vi "lột bỏ quần áo kỹ thuật số", ghép nạn nhân vào các tư thế khêu gợi và đăng tải công khai kết quả lên mạng xã hội X.
Theo số liệu phân tích từ công ty thông tin kỹ thuật số Peryton Intelligence có trụ sở tại Anh, làn sóng lạm dụng này đã bùng phát mạnh mẽ trong dịp năm mới. Đỉnh điểm là vào ngày 2/1/2026, hệ thống đã ghi nhận tới 199.612 yêu cầu chỉnh sửa ảnh với mục đích xấu. Ông Imran Ahmed, Giám đốc điều hành của CCDH, đã đưa ra nhận định gay gắt rằng Grok ở giai đoạn đó đã biến thành một cỗ máy sản xuất nội dung nhạy cảm với quy mô công nghiệp. Ông nhấn mạnh việc lột bỏ quần áo phụ nữ bằng kỹ thuật số mà không có sự cho phép là một hành vi lạm dụng tình dục nghiêm trọng cần phải bị lên án.
Báo động đỏ về an toàn trẻ em và người nổi tiếng
Phần đáng lo ngại nhất trong báo cáo của CCDH là những con số liên quan đến trẻ em. Ước tính trong vòng 11 ngày kể trên, Grok đã tạo ra khoảng 23.000 hình ảnh nhạy cảm liên quan đến trẻ vị thành niên. Tần suất xuất hiện của các nội dung này dày đặc đến mức trung bình cứ mỗi 41 giây lại có một hình ảnh lạm dụng trẻ em mới được tạo ra. Báo cáo dẫn chứng một trường hợp cụ thể gây sốc, trong đó bức ảnh selfie bình thường của một nữ sinh trước khi đến trường đã bị AI biến đổi thành hình ảnh mặc bikini gợi dục.
Bên cạnh trẻ em, danh sách nạn nhân của công cụ này còn bao gồm hàng loạt nhân vật nổi tiếng và chính trị gia quyền lực. Những cái tên xuất hiện trong loạt ảnh mà CCDH phân tích bao gồm các ngôi sao giải trí như Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown. Nghiêm trọng hơn, công nghệ này còn nhắm vào các chính khách như Phó thủ tướng Thụy Điển Ebba Busch và cựu Phó tổng thống Mỹ Kamala Harris, cho thấy tác động của tính năng tạo ảnh này rộng lớn và nguy hiểm hơn nhiều so với các dự đoán ban đầu.
Phản ứng từ xAI và các lệnh cấm quốc tế
Trước làn sóng chỉ trích dữ dội, công ty xAI đã phải thực hiện các biện pháp khẩn cấp để kiểm soát tình hình. Ban đầu vào ngày 9/1, hãng đã giới hạn tính năng chỉnh sửa ảnh người thật chỉ dành cho người dùng trả phí. Tuy nhiên, khi nhận thấy biện pháp này không đủ để ngăn chặn sự lạm dụng, đến ngày 14/1, xAI đã thông báo vô hiệu hóa hoàn toàn tính năng này đối với mọi đối tượng người dùng. Đại diện công ty cũng đưa ra cam kết sẽ biến mạng xã hội X thành một nền tảng an toàn, khẳng định chính sách không khoan nhượng với mọi hình thức lạm dụng tình dục trẻ em, khỏa thân không đồng thuận và các nội dung tình dục không mong muốn.
Hệ quả của vụ việc đã lan rộng ra phạm vi quốc tế. Tuần trước, Philippines đã trở thành quốc gia thứ ba ban hành lệnh cấm đối với Grok, nối gót hai nước láng giềng trong khu vực Đông Nam Á là Malaysia và Indonesia. Trong khi đó, tại châu Âu, chính phủ Anh và Pháp tuyên bố sẽ tiếp tục gây sức ép pháp lý lên xAI để đảm bảo các tiêu chuẩn an toàn. Tuy nhiên, tình hình đã có dấu hiệu hạ nhiệt trong tuần này khi Malaysia và Philippines quyết định dỡ bỏ lệnh cấm sau khi xác nhận Grok đã triển khai các biện pháp an toàn bổ sung nhằm khắc phục các lỗ hổng nghiêm trọng nói trên.
Cỗ máy sản xuất nội dung deepfake quy mô công nghiệp
Sự việc bắt đầu thu hút sự chú ý của dư luận và gây phẫn nộ trên toàn cầu khi người dùng phát hiện ra lỗ hổng nghiêm trọng trong cơ chế kiểm duyệt của Grok. Cụ thể, chatbot này cho phép người dùng tải lên hình ảnh của người thật, sau đó sử dụng các thuật toán AI tạo sinh để thực hiện hành vi "lột bỏ quần áo kỹ thuật số", ghép nạn nhân vào các tư thế khêu gợi và đăng tải công khai kết quả lên mạng xã hội X.
Theo số liệu phân tích từ công ty thông tin kỹ thuật số Peryton Intelligence có trụ sở tại Anh, làn sóng lạm dụng này đã bùng phát mạnh mẽ trong dịp năm mới. Đỉnh điểm là vào ngày 2/1/2026, hệ thống đã ghi nhận tới 199.612 yêu cầu chỉnh sửa ảnh với mục đích xấu. Ông Imran Ahmed, Giám đốc điều hành của CCDH, đã đưa ra nhận định gay gắt rằng Grok ở giai đoạn đó đã biến thành một cỗ máy sản xuất nội dung nhạy cảm với quy mô công nghiệp. Ông nhấn mạnh việc lột bỏ quần áo phụ nữ bằng kỹ thuật số mà không có sự cho phép là một hành vi lạm dụng tình dục nghiêm trọng cần phải bị lên án.
Báo động đỏ về an toàn trẻ em và người nổi tiếng
Phần đáng lo ngại nhất trong báo cáo của CCDH là những con số liên quan đến trẻ em. Ước tính trong vòng 11 ngày kể trên, Grok đã tạo ra khoảng 23.000 hình ảnh nhạy cảm liên quan đến trẻ vị thành niên. Tần suất xuất hiện của các nội dung này dày đặc đến mức trung bình cứ mỗi 41 giây lại có một hình ảnh lạm dụng trẻ em mới được tạo ra. Báo cáo dẫn chứng một trường hợp cụ thể gây sốc, trong đó bức ảnh selfie bình thường của một nữ sinh trước khi đến trường đã bị AI biến đổi thành hình ảnh mặc bikini gợi dục.
Bên cạnh trẻ em, danh sách nạn nhân của công cụ này còn bao gồm hàng loạt nhân vật nổi tiếng và chính trị gia quyền lực. Những cái tên xuất hiện trong loạt ảnh mà CCDH phân tích bao gồm các ngôi sao giải trí như Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown. Nghiêm trọng hơn, công nghệ này còn nhắm vào các chính khách như Phó thủ tướng Thụy Điển Ebba Busch và cựu Phó tổng thống Mỹ Kamala Harris, cho thấy tác động của tính năng tạo ảnh này rộng lớn và nguy hiểm hơn nhiều so với các dự đoán ban đầu.
Phản ứng từ xAI và các lệnh cấm quốc tế
Trước làn sóng chỉ trích dữ dội, công ty xAI đã phải thực hiện các biện pháp khẩn cấp để kiểm soát tình hình. Ban đầu vào ngày 9/1, hãng đã giới hạn tính năng chỉnh sửa ảnh người thật chỉ dành cho người dùng trả phí. Tuy nhiên, khi nhận thấy biện pháp này không đủ để ngăn chặn sự lạm dụng, đến ngày 14/1, xAI đã thông báo vô hiệu hóa hoàn toàn tính năng này đối với mọi đối tượng người dùng. Đại diện công ty cũng đưa ra cam kết sẽ biến mạng xã hội X thành một nền tảng an toàn, khẳng định chính sách không khoan nhượng với mọi hình thức lạm dụng tình dục trẻ em, khỏa thân không đồng thuận và các nội dung tình dục không mong muốn.
Hệ quả của vụ việc đã lan rộng ra phạm vi quốc tế. Tuần trước, Philippines đã trở thành quốc gia thứ ba ban hành lệnh cấm đối với Grok, nối gót hai nước láng giềng trong khu vực Đông Nam Á là Malaysia và Indonesia. Trong khi đó, tại châu Âu, chính phủ Anh và Pháp tuyên bố sẽ tiếp tục gây sức ép pháp lý lên xAI để đảm bảo các tiêu chuẩn an toàn. Tuy nhiên, tình hình đã có dấu hiệu hạ nhiệt trong tuần này khi Malaysia và Philippines quyết định dỡ bỏ lệnh cấm sau khi xác nhận Grok đã triển khai các biện pháp an toàn bổ sung nhằm khắc phục các lỗ hổng nghiêm trọng nói trên.
