MinhSec
Writer
Khi Hàn Quốc chuẩn bị tổ chức bầu cử địa phương vào ngày 3/6, quốc gia này sẽ lần đầu tiên áp dụng đồng thời hai đạo luật nhằm hạn chế việc sử dụng deepfake do AI tạo ra trong các chiến dịch chính trị. Đây được xem là một trong những nỗ lực mạnh tay nhất thế giới nhằm đối phó với nguy cơ thao túng cử tri bằng trí tuệ nhân tạo.
Tuy nhiên, câu hỏi lớn vẫn còn đó: luật pháp có đủ nhanh để đối phó với tốc độ lan truyền của deepfake hay không?
Tại Hoa Kỳ, năm 2024 từng xuất hiện các cuộc gọi tự động giả giọng Joe Biden nhằm kêu gọi cử tri không đi bỏ phiếu trong cuộc bầu cử sơ bộ ở bang New Hampshire.
Trong khi đó, tại Hàn Quốc, các video giả mạo ứng viên chính trị, bản tin AI và nội dung thao túng dư luận đã xuất hiện ngày càng nhiều trên mạng xã hội. Một video lan truyền mạnh từng cho thấy Lee Jae-myung kết thúc cuộc tuyệt thực trước thềm bầu cử tổng thống, trong giai đoạn ông là lãnh đạo phe đối lập.
Theo Brian Long, CEO của Adaptive Security, chỉ vài năm trước việc tạo deepfake thuyết phục còn đòi hỏi kỹ năng kỹ thuật cao. Nhưng hiện nay, các công cụ AI phổ thông có thể tạo âm thanh và video giả chỉ trong vài phút.
Ông cho rằng cuộc bầu cử ngày 3/6 sẽ là “bài kiểm tra thực tế đầu tiên” cho toàn bộ khung pháp lý chống deepfake của Hàn Quốc.
Người vi phạm có thể đối mặt với án tù lên tới 7 năm hoặc khoản phạt từ 10 đến 50 triệu won.
Song song với đó là Đạo luật Cơ bản về AI, có hiệu lực từ đầu năm nay. Theo luật, các công ty AI phải thông báo rõ ràng nếu nội dung được tạo ra bằng trí tuệ nhân tạo, ví dụ bằng hình mờ hoặc nhãn nhận diện AI.
Các doanh nghiệp không minh bạch có thể bị phạt tới 30 triệu won.
Để hỗ trợ thực thi, Cơ quan Cảnh sát Quốc gia Hàn Quốc đã phát triển công cụ phát hiện deepfake và đưa vào sử dụng từ năm 2024.
Động thái này diễn ra trong bối cảnh Hàn Quốc đang phải đối mặt với làn sóng nội dung khiêu *** deepfake ngày càng nghiêm trọng. Theo báo cáo năm 2023 của Security Hero, các ca sĩ và diễn viên Hàn Quốc chiếm hơn một nửa số nạn nhân xuất hiện trong nội dung khiêu *** deepfake trên toàn cầu.
Hany Farid, đồng sáng lập GetReal Security, nhận định rằng điểm yếu lớn nhất nằm ở tốc độ.
Một video deepfake về ứng viên tổng thống có thể được tạo và lan truyền trong vài phút, nhưng quy trình xác minh, điều tra và gỡ bỏ thường kéo dài nhiều ngày hoặc nhiều tuần. Khi cơ quan chức năng xác nhận đó là giả mạo, hàng triệu người có thể đã xem nội dung đó.
Ngoài ra, các nền tảng mạng xã hội, ứng dụng nhắn tin mã hóa và chiến dịch SMS nhắm mục tiêu khiến việc kiểm soát trở nên khó khăn hơn nhiều. Deepfake không chỉ lan truyền công khai mà còn phát tán trong các nhóm kín, nơi cơ quan quản lý gần như không thể can thiệp kịp thời.
Theo các chuyên gia, giải pháp hiệu quả cần là mô hình đa tầng gồm:
Trong khi đó, Hoa Kỳ vẫn chưa có luật liên bang toàn diện về deepfake trong bầu cử. Các quy định hiện chủ yếu do từng bang tự xây dựng, dẫn đến tình trạng thiếu đồng nhất trong thực thi.
Kinh nghiệm của Hàn Quốc vì thế đang được xem như một “phòng thí nghiệm thực tế” cho cuộc chiến toàn cầu chống lại deepfake AI trong chính trị một cuộc chiến mà luật pháp, công nghệ và nhận thức xã hội sẽ phải chạy đua với tốc độ phát triển của trí tuệ nhân tạo.
Tuy nhiên, câu hỏi lớn vẫn còn đó: luật pháp có đủ nhanh để đối phó với tốc độ lan truyền của deepfake hay không?
Deepfake đang trở thành mối đe dọa mới với các cuộc bầu cử
Deepfake không còn là công nghệ dành riêng cho các chuyên gia kỹ thuật. Nhờ sự phát triển của AI tạo sinh, việc tạo video, giọng nói hoặc hình ảnh giả ngày càng dễ dàng, rẻ hơn và thuyết phục hơn rất nhiều.Tại Hoa Kỳ, năm 2024 từng xuất hiện các cuộc gọi tự động giả giọng Joe Biden nhằm kêu gọi cử tri không đi bỏ phiếu trong cuộc bầu cử sơ bộ ở bang New Hampshire.
Trong khi đó, tại Hàn Quốc, các video giả mạo ứng viên chính trị, bản tin AI và nội dung thao túng dư luận đã xuất hiện ngày càng nhiều trên mạng xã hội. Một video lan truyền mạnh từng cho thấy Lee Jae-myung kết thúc cuộc tuyệt thực trước thềm bầu cử tổng thống, trong giai đoạn ông là lãnh đạo phe đối lập.
Theo Brian Long, CEO của Adaptive Security, chỉ vài năm trước việc tạo deepfake thuyết phục còn đòi hỏi kỹ năng kỹ thuật cao. Nhưng hiện nay, các công cụ AI phổ thông có thể tạo âm thanh và video giả chỉ trong vài phút.
Ông cho rằng cuộc bầu cử ngày 3/6 sẽ là “bài kiểm tra thực tế đầu tiên” cho toàn bộ khung pháp lý chống deepfake của Hàn Quốc.
Hai đạo luật chống deepfake đầu tiên của Hàn Quốc
Một trong những điểm đáng chú ý là Điều 82-8 của Luật Bầu cử Công chức, được thông qua năm 2023. Luật này cấm sử dụng âm thanh, hình ảnh hoặc video giả khó phân biệt với thật trong vòng 90 ngày trước ngày bầu cử.Người vi phạm có thể đối mặt với án tù lên tới 7 năm hoặc khoản phạt từ 10 đến 50 triệu won.
Song song với đó là Đạo luật Cơ bản về AI, có hiệu lực từ đầu năm nay. Theo luật, các công ty AI phải thông báo rõ ràng nếu nội dung được tạo ra bằng trí tuệ nhân tạo, ví dụ bằng hình mờ hoặc nhãn nhận diện AI.
Các doanh nghiệp không minh bạch có thể bị phạt tới 30 triệu won.
Để hỗ trợ thực thi, Cơ quan Cảnh sát Quốc gia Hàn Quốc đã phát triển công cụ phát hiện deepfake và đưa vào sử dụng từ năm 2024.
Động thái này diễn ra trong bối cảnh Hàn Quốc đang phải đối mặt với làn sóng nội dung khiêu *** deepfake ngày càng nghiêm trọng. Theo báo cáo năm 2023 của Security Hero, các ca sĩ và diễn viên Hàn Quốc chiếm hơn một nửa số nạn nhân xuất hiện trong nội dung khiêu *** deepfake trên toàn cầu.
Luật pháp vẫn chậm hơn tốc độ lan truyền của AI
Dù vậy, nhiều chuyên gia cho rằng luật pháp chỉ giải quyết được một phần vấn đề.Hany Farid, đồng sáng lập GetReal Security, nhận định rằng điểm yếu lớn nhất nằm ở tốc độ.
Một video deepfake về ứng viên tổng thống có thể được tạo và lan truyền trong vài phút, nhưng quy trình xác minh, điều tra và gỡ bỏ thường kéo dài nhiều ngày hoặc nhiều tuần. Khi cơ quan chức năng xác nhận đó là giả mạo, hàng triệu người có thể đã xem nội dung đó.
Ngoài ra, các nền tảng mạng xã hội, ứng dụng nhắn tin mã hóa và chiến dịch SMS nhắm mục tiêu khiến việc kiểm soát trở nên khó khăn hơn nhiều. Deepfake không chỉ lan truyền công khai mà còn phát tán trong các nhóm kín, nơi cơ quan quản lý gần như không thể can thiệp kịp thời.
Theo các chuyên gia, giải pháp hiệu quả cần là mô hình đa tầng gồm:
- Luật pháp rõ ràng và có chế tài mạnh
- Công cụ phát hiện deepfake tự động
- Yêu cầu các nền tảng chịu trách nhiệm
- Hệ thống xác thực nguồn gốc nội dung
- Nâng cao nhận thức truyền thông cho cử tri
Trong khi đó, Hoa Kỳ vẫn chưa có luật liên bang toàn diện về deepfake trong bầu cử. Các quy định hiện chủ yếu do từng bang tự xây dựng, dẫn đến tình trạng thiếu đồng nhất trong thực thi.
Kinh nghiệm của Hàn Quốc vì thế đang được xem như một “phòng thí nghiệm thực tế” cho cuộc chiến toàn cầu chống lại deepfake AI trong chính trị một cuộc chiến mà luật pháp, công nghệ và nhận thức xã hội sẽ phải chạy đua với tốc độ phát triển của trí tuệ nhân tạo.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
