Vào một ngày hè năm 2021, cuộc sống của Ruma (tên đã thay đổi), một sinh viên đại học 27 tuổi tại Hàn Quốc, đã hoàn toàn đảo lộn. Điện thoại cô liên tục nhận thông báo về những hình ảnh kinh hoàng: khuôn mặt của cô bị cắt ghép vào những thân hình khỏa thân và lan truyền trong một phòng chat trên ứng dụng nhắn tin Telegram, kèm theo những lời bình luận tục tĩu, hạ nhục. Kẻ ẩn danh còn nhắn tin quấy rối, đe dọa sẽ phát tán rộng hơn và thách thức cảnh sát. "Tôi như bị dội bom bởi những hình ảnh mà tôi chưa từng tưởng tượng trong đời," Ruma chia sẻ với CNN.
Câu chuyện của Ruma không phải là cá biệt. Nó phản ánh một cuộc khủng hoảng nhức nhối tại Hàn Quốc và nhiều nơi trên thế giới: sự bùng nổ của deepfake pornography – nội dung khiêu d.â.m giả mạo được tạo ra bằng Trí tuệ Nhân tạo (AI).1 Khác với "revenge porn" truyền thống (trả thù tình bằng cách tung ảnh/video nhạy cảm có thật), công nghệ deepfake cho phép kẻ xấu tạo ra những hình ảnh, video khiêu d.â.m giả mạo cực kỳ chân thực của bất kỳ ai, chỉ cần có ảnh chân dung của họ (thường lấy từ mạng xã hội), ngay cả khi nạn nhân chưa bao giờ chụp hay gửi ảnh nude.
Nạn nhân là học sinh, giáo viên và cuộc chiến đơn độc
Hàn Quốc, quốc gia vốn có lịch sử phức tạp với các tội phạm tình dục kỹ thuật số (camera quay lén, phòng chat Nth...), đang đối mặt với làn sóng deepfake mới đặc biệt nghiêm trọng trong môi trường học đường. Theo số liệu của Bộ Giáo dục nước này, chỉ trong 10 tháng đầu năm 2024, đã có hơn 900 học sinh, giáo viên và nhân viên trường học trình báo là nạn nhân của deepfake khiêu d.â.m. Con số này chưa bao gồm các trường đại học.
Cô Kim, một giáo viên trung học (CNN chỉ nêu họ để bảo vệ danh tính), kể lại cảm giác "tay run lên" khi học sinh cho xem những bức ảnh chụp lén cơ thể cô trong lớp học bị đăng lên Twitter (nay là X), và chỉ hai ngày sau, khuôn mặt cô đã bị ghép vào ảnh nude bằng công nghệ deepfake tinh vi.
Khi các nạn nhân như Ruma và Kim tìm đến cảnh sát, họ thường đối mặt với sự chậm trễ và khó khăn trong điều tra. Cảnh sát cảnh báo về việc các nền tảng như Telegram nổi tiếng bất hợp tác cung cấp thông tin người dùng, còn X yêu cầu quy trình pháp lý phức tạp. Cảm thấy bất lực và lo sợ bằng chứng bị xóa, nhiều nạn nhân đã phải tự mình hoặc nhờ đến các nhà hoạt động như Won Eun-ji (người từng phanh phui vụ phòng chat Nth) để tự điều tra, thâm nhập vào các nhóm chat đen, thu thập bằng chứng và phối hợp với cảnh sát trong các chiến dịch vây bắt. Trong vụ án của Ruma, quá trình này kéo dài gần hai năm mới bắt được hai thủ phạm là cựu sinh viên Đại học Quốc gia Seoul (SNU).
Luật pháp siết chặt, thực thi còn khoảng cách
Trước áp lực dư luận, Hàn Quốc đã sửa đổi luật vào tháng 9/2024. Hình phạt cho việc tạo và phát tán deepfake khiêu *** tăng lên tối đa 7 năm tù. Đáng chú ý, luật mới còn hình sự hóa cả hành vi sở hữu và xem loại nội dung này, với mức phạt lên đến 3 năm tù hoặc 30 triệu won (hơn 20.000 USD).
Tuy nhiên, khoảng cách giữa luật pháp và thực thi vẫn còn lớn. Trong 10 tháng đầu năm 2024, với 964 vụ được báo cáo, cảnh sát chỉ thực hiện được 23 vụ bắt giữ. Nữ nghị sĩ Kim Nam-hee nhận định các cuộc điều tra và trừng phạt "còn quá thụ động".
Vai trò của các nền tảng và hy vọng mong manh
Áp lực đang ngày càng gia tăng lên các nền tảng trực tuyến như Telegram và X. Sau khi CEO Pavel Durov bị bắt giữ tại Pháp vào tháng 8/2024 liên quan đến việc thiếu kiểm duyệt nội dung, Telegram đã có những động thái hợp tác hơn. Tháng 9/2024, nền tảng này đồng ý thiết lập đường dây nóng với cơ quan quản lý Hàn Quốc và đã gỡ bỏ 148 video vi phạm. Đặc biệt, tháng 1/2025, cảnh sát Hàn Quốc lần đầu tiên đã nhận được dữ liệu tội phạm từ Telegram, dẫn đến việc bắt giữ 14 đối tượng trong một đường dây bóc lột tình dục lớn. Telegram khẳng định có chính sách "không khoan nhượng" và sử dụng cả con người lẫn AI để kiểm duyệt. X cũng yêu cầu quy trình pháp lý để cung cấp thông tin người dùng.
Dù đã có những tiến bộ bước đầu, cuộc chiến chống lại deepfake khiêu d.â.m vẫn còn rất dài. Như Ruma chia sẻ sau khi kẻ hại mình bị kết án 9 năm tù: "Tôi mừng, nhưng đây mới chỉ là phiên tòa đầu tiên... Vẫn còn rất nhiều nạn nhân khác đang đau khổ vì thủ phạm chưa bị bắt... còn một chặng đường dài phía trước." Cô Kim cũng bày tỏ sự thất vọng trước thái độ thờ ơ, thậm chí đổ lỗi cho nạn nhân của một bộ phận xã hội ("Tại sao lại là tội nghiêm trọng khi đó không phải cơ thể thật của bạn?"). Cuộc chiến này đòi hỏi nỗ lực không ngừng từ cơ quan pháp luật, sự hợp tác mạnh mẽ hơn từ các nền tảng công nghệ và sự thay đổi nhận thức từ chính cộng đồng.
Câu chuyện của Ruma không phải là cá biệt. Nó phản ánh một cuộc khủng hoảng nhức nhối tại Hàn Quốc và nhiều nơi trên thế giới: sự bùng nổ của deepfake pornography – nội dung khiêu d.â.m giả mạo được tạo ra bằng Trí tuệ Nhân tạo (AI).1 Khác với "revenge porn" truyền thống (trả thù tình bằng cách tung ảnh/video nhạy cảm có thật), công nghệ deepfake cho phép kẻ xấu tạo ra những hình ảnh, video khiêu d.â.m giả mạo cực kỳ chân thực của bất kỳ ai, chỉ cần có ảnh chân dung của họ (thường lấy từ mạng xã hội), ngay cả khi nạn nhân chưa bao giờ chụp hay gửi ảnh nude.
Nạn nhân là học sinh, giáo viên và cuộc chiến đơn độc
Hàn Quốc, quốc gia vốn có lịch sử phức tạp với các tội phạm tình dục kỹ thuật số (camera quay lén, phòng chat Nth...), đang đối mặt với làn sóng deepfake mới đặc biệt nghiêm trọng trong môi trường học đường. Theo số liệu của Bộ Giáo dục nước này, chỉ trong 10 tháng đầu năm 2024, đã có hơn 900 học sinh, giáo viên và nhân viên trường học trình báo là nạn nhân của deepfake khiêu d.â.m. Con số này chưa bao gồm các trường đại học.
Cô Kim, một giáo viên trung học (CNN chỉ nêu họ để bảo vệ danh tính), kể lại cảm giác "tay run lên" khi học sinh cho xem những bức ảnh chụp lén cơ thể cô trong lớp học bị đăng lên Twitter (nay là X), và chỉ hai ngày sau, khuôn mặt cô đã bị ghép vào ảnh nude bằng công nghệ deepfake tinh vi.
Khi các nạn nhân như Ruma và Kim tìm đến cảnh sát, họ thường đối mặt với sự chậm trễ và khó khăn trong điều tra. Cảnh sát cảnh báo về việc các nền tảng như Telegram nổi tiếng bất hợp tác cung cấp thông tin người dùng, còn X yêu cầu quy trình pháp lý phức tạp. Cảm thấy bất lực và lo sợ bằng chứng bị xóa, nhiều nạn nhân đã phải tự mình hoặc nhờ đến các nhà hoạt động như Won Eun-ji (người từng phanh phui vụ phòng chat Nth) để tự điều tra, thâm nhập vào các nhóm chat đen, thu thập bằng chứng và phối hợp với cảnh sát trong các chiến dịch vây bắt. Trong vụ án của Ruma, quá trình này kéo dài gần hai năm mới bắt được hai thủ phạm là cựu sinh viên Đại học Quốc gia Seoul (SNU).
Luật pháp siết chặt, thực thi còn khoảng cách
Trước áp lực dư luận, Hàn Quốc đã sửa đổi luật vào tháng 9/2024. Hình phạt cho việc tạo và phát tán deepfake khiêu *** tăng lên tối đa 7 năm tù. Đáng chú ý, luật mới còn hình sự hóa cả hành vi sở hữu và xem loại nội dung này, với mức phạt lên đến 3 năm tù hoặc 30 triệu won (hơn 20.000 USD).
Tuy nhiên, khoảng cách giữa luật pháp và thực thi vẫn còn lớn. Trong 10 tháng đầu năm 2024, với 964 vụ được báo cáo, cảnh sát chỉ thực hiện được 23 vụ bắt giữ. Nữ nghị sĩ Kim Nam-hee nhận định các cuộc điều tra và trừng phạt "còn quá thụ động".
Vai trò của các nền tảng và hy vọng mong manh
Áp lực đang ngày càng gia tăng lên các nền tảng trực tuyến như Telegram và X. Sau khi CEO Pavel Durov bị bắt giữ tại Pháp vào tháng 8/2024 liên quan đến việc thiếu kiểm duyệt nội dung, Telegram đã có những động thái hợp tác hơn. Tháng 9/2024, nền tảng này đồng ý thiết lập đường dây nóng với cơ quan quản lý Hàn Quốc và đã gỡ bỏ 148 video vi phạm. Đặc biệt, tháng 1/2025, cảnh sát Hàn Quốc lần đầu tiên đã nhận được dữ liệu tội phạm từ Telegram, dẫn đến việc bắt giữ 14 đối tượng trong một đường dây bóc lột tình dục lớn. Telegram khẳng định có chính sách "không khoan nhượng" và sử dụng cả con người lẫn AI để kiểm duyệt. X cũng yêu cầu quy trình pháp lý để cung cấp thông tin người dùng.
Dù đã có những tiến bộ bước đầu, cuộc chiến chống lại deepfake khiêu d.â.m vẫn còn rất dài. Như Ruma chia sẻ sau khi kẻ hại mình bị kết án 9 năm tù: "Tôi mừng, nhưng đây mới chỉ là phiên tòa đầu tiên... Vẫn còn rất nhiều nạn nhân khác đang đau khổ vì thủ phạm chưa bị bắt... còn một chặng đường dài phía trước." Cô Kim cũng bày tỏ sự thất vọng trước thái độ thờ ơ, thậm chí đổ lỗi cho nạn nhân của một bộ phận xã hội ("Tại sao lại là tội nghiêm trọng khi đó không phải cơ thể thật của bạn?"). Cuộc chiến này đòi hỏi nỗ lực không ngừng từ cơ quan pháp luật, sự hợp tác mạnh mẽ hơn từ các nền tảng công nghệ và sự thay đổi nhận thức từ chính cộng đồng.
