Bạn có thể bắt chước giọng nói của một người bằng AI chỉ trong vài giây. Nhưng nếu người đó là một ca sĩ, diễn viên hay người nổi tiếng và họ không đồng ý, câu chuyện có thể không còn đơn giản là một trò vui trên Internet nữa.
Nhật Bản đang xem xét một hướng xử lý đáng chú ý đối với những trường hợp sử dụng AI để tạo ra giọng nói giả giống người nổi tiếng. Người bị giả giọng có thể yêu cầu bồi thường nếu giọng nói được tạo ra nhằm mục đích thương mại hoặc khiến công chúng hiểu nhầm rằng người nổi tiếng thực sự đang nói những nội dung đó.
AI đang khiến khái niệm về danh tính của một con người trở nên phức tạp hơn rất nhiều. Trước đây, nếu muốn giả mạo một người nổi tiếng, ít nhất chúng ta phải có hình ảnh, video hoặc bắt chước giọng nói của họ một cách thủ công. Bây giờ, chỉ cần một lượng dữ liệu âm thanh tương đối nhỏ, AI đã có thể tạo ra giọng nói rất giống người thật và sử dụng nó để nói những câu mà người đó chưa từng nói.
Nguy hiểm hơn nằm ở chỗ người nghe đôi khi không có lý do để nghi ngờ. Hãy thử tưởng tượng một đoạn âm thanh được tạo bằng AI mang giọng của một CEO, bác sĩ, chuyên gia tài chính hay một người nổi tiếng, trong đó họ đưa ra lời khuyên đầu tư, quảng cáo sản phẩm hoặc yêu cầu chuyển tiền. Nếu không biết đó là AI, rất nhiều người có thể tin rằng chính chủ đang nói.
Nhật Bản đang xem xét một hướng xử lý đáng chú ý đối với những trường hợp sử dụng AI để tạo ra giọng nói giả giống người nổi tiếng. Người bị giả giọng có thể yêu cầu bồi thường nếu giọng nói được tạo ra nhằm mục đích thương mại hoặc khiến công chúng hiểu nhầm rằng người nổi tiếng thực sự đang nói những nội dung đó.
AI đang khiến khái niệm về danh tính của một con người trở nên phức tạp hơn rất nhiều. Trước đây, nếu muốn giả mạo một người nổi tiếng, ít nhất chúng ta phải có hình ảnh, video hoặc bắt chước giọng nói của họ một cách thủ công. Bây giờ, chỉ cần một lượng dữ liệu âm thanh tương đối nhỏ, AI đã có thể tạo ra giọng nói rất giống người thật và sử dụng nó để nói những câu mà người đó chưa từng nói.
Nguy hiểm hơn nằm ở chỗ người nghe đôi khi không có lý do để nghi ngờ. Hãy thử tưởng tượng một đoạn âm thanh được tạo bằng AI mang giọng của một CEO, bác sĩ, chuyên gia tài chính hay một người nổi tiếng, trong đó họ đưa ra lời khuyên đầu tư, quảng cáo sản phẩm hoặc yêu cầu chuyển tiền. Nếu không biết đó là AI, rất nhiều người có thể tin rằng chính chủ đang nói.
Đây cũng là lý do mình cho rằng câu chuyện ở Nhật Bản không chỉ liên quan đến người nổi tiếng. Giọng nói của mỗi người đang dần trở thành một dạng dữ liệu nhận dạng, tương tự khuôn mặt. Khi công nghệ tổng hợp giọng nói ngày càng tốt, một đoạn ghi âm từng được đăng công khai trên mạng xã hội, YouTube hay một cuộc phỏng vấn cũng có thể trở thành nguyên liệu để tạo ra một phiên bản giọng nói nhân tạo.
Điều này đặc biệt đáng quan tâm vì voice phishing (lừa đảo bằng giọng nói) đang trở nên thuyết phục hơn. Nếu trước đây một cuộc gọi giả giọng thường dễ bị nhận ra vì âm thanh máy móc hoặc cách nói thiếu tự nhiên, AI đang xóa dần những dấu hiệu đó. Kẻ lừa đảo thậm chí có thể giả giọng người thân, cấp trên hoặc đối tác để tạo áp lực khiến nạn nhân đưa ra quyết định ngay lập tức.
Vì vậy, điều đáng nói trong câu chuyện này không phải chỉ là "AI có thể giả giọng người nổi tiếng". Vấn đề lớn hơn là khi giọng nói có thể được sao chép, chúng ta sẽ xác định đâu là lời nói thật bằng cách nào? Có lẽ trong tương lai, việc nghe đúng giọng của một người sẽ không còn đủ để chứng minh người đó thực sự đang nói.
Và mình nghĩ đây mới là phần khó nhất của câu chuyện. Công nghệ tạo giọng giả sẽ ngày càng dễ sử dụng, trong khi pháp luật lại phải chạy theo để xác định ai sở hữu quyền đối với giọng nói, khi nào việc sử dụng là hợp pháp và ai phải chịu trách nhiệm khi giọng nói đó được dùng để lừa người khác. Đây có thể sẽ trở thành một vấn đề rất đáng chú ý trong cuộc chiến chống lừa đảo bằng AI trong vài năm tới.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
