Hư Trúc
Writer
Meta vừa giới thiệu một công cụ phát hiện ảnh AI mới đi kèm với mô hình tạo ảnh Muse Image. Hãng tự tin quảng cáo hệ thống đóng dấu chìm này có khả năng nhận diện tốt ngay cả khi ảnh bị cắt cúp. Thế nhưng, thử nghiệm thực tế lại cho thấy một kết quả đáng thất vọng khi công cụ này "bó tay" trước hơn một nửa số ảnh chỉ qua vài đường crop cơ bản.
Hệ thống đóng dấu chìm (watermark) vô hình vốn được kỳ vọng là tấm khiên giúp người dùng phân biệt được đâu là ảnh thật, đâu là ảnh do trí tuệ nhân tạo tạo ra. Nhất là trong bối cảnh các thông tin giả mạo, deepfake đang tràn lan trên mạng xã hội. Tuy nhiên, ranh giới giữa lý thuyết và thực tế của Meta có vẻ vẫn còn một khoảng cách khá xa.
Kết quả ban đầu rất hoàn hảo: công cụ của Meta nhận diện chính xác 100% các bức ảnh AI nguyên bản. Thế nhưng, rắc rối bắt đầu xuất hiện khi những bức ảnh này bị cắt cúp (crop) bớt khoảng 1/3 đến một nửa kích thước ban đầu – một thao tác chỉnh sửa cực kỳ phổ biến của người dùng phổ thông. Lúc này, công cụ của Meta đã thất bại trong việc nhận diện đối với 55% số ảnh được thử nghiệm.
Hệ thống đóng dấu chìm có tên Content Seal được Meta tích hợp sâu vào mọi bức ảnh tạo ra bởi Muse Image. Hãng tuyên bố dấu chìm này được thiết kế để tồn tại qua các bước chỉnh sửa thông thường. Dù vậy, trước kết quả thử nghiệm trên, Meta phải thừa nhận rằng đây mới chỉ là phiên bản thử nghiệm (preview) và tín hiệu nhận diện có thể bị mất nếu bức ảnh bị cắt cúp quá mạnh.
Theo các chuyên gia trong lĩnh vực giám định hình ảnh AI, những phương pháp dựa trên watermark chỉ thực sự hiệu quả khi dấu chìm còn nguyên vẹn. Bất kỳ tác động nào làm suy yếu hoặc loại bỏ tín hiệu được nhúng bên trong – như cắt cúp, thay đổi kích thước, nén dung lượng nặng hay chỉnh sửa sâu – đều có thể làm giảm đáng kể độ chính xác của công cụ quét.
Hồi tháng 3, Ban Giám sát của Meta cũng đã lên tiếng kêu gọi công ty cần nỗ lực hơn nữa để giải quyết tình trạng "bùng nổ nội dung AI mang tính lừa đảo" trên các nền tảng của mình, đồng thời yêu cầu hãng đầu tư mạnh hơn vào các công cụ phát hiện hiệu quả.
Dù vẫn còn nhiều lỗ hổng, các nhà nghiên cứu bảo mật cho rằng công nghệ đóng dấu chìm vẫn là một hướng đi triển vọng cho tương lai của nội dung do AI tạo ra. Nó có thể không hoàn hảo 100%, nhưng việc ngăn chặn được phần lớn các trường hợp giả mạo vẫn là một bước tiến lớn so với việc không có biện pháp bảo vệ nào.
Hệ thống đóng dấu chìm (watermark) vô hình vốn được kỳ vọng là tấm khiên giúp người dùng phân biệt được đâu là ảnh thật, đâu là ảnh do trí tuệ nhân tạo tạo ra. Nhất là trong bối cảnh các thông tin giả mạo, deepfake đang tràn lan trên mạng xã hội. Tuy nhiên, ranh giới giữa lý thuyết và thực tế của Meta có vẻ vẫn còn một khoảng cách khá xa.
Cắt ảnh một chút là "mất dấu" AI
Để kiểm chứng lời giới thiệu của Meta về công cụ phát hiện ảnh AI mới, một thử nghiệm thực tế đã được tiến hành trên 40 bức ảnh được tạo ra từ mô hình Muse Image.Kết quả ban đầu rất hoàn hảo: công cụ của Meta nhận diện chính xác 100% các bức ảnh AI nguyên bản. Thế nhưng, rắc rối bắt đầu xuất hiện khi những bức ảnh này bị cắt cúp (crop) bớt khoảng 1/3 đến một nửa kích thước ban đầu – một thao tác chỉnh sửa cực kỳ phổ biến của người dùng phổ thông. Lúc này, công cụ của Meta đã thất bại trong việc nhận diện đối với 55% số ảnh được thử nghiệm.
Hệ thống đóng dấu chìm có tên Content Seal được Meta tích hợp sâu vào mọi bức ảnh tạo ra bởi Muse Image. Hãng tuyên bố dấu chìm này được thiết kế để tồn tại qua các bước chỉnh sửa thông thường. Dù vậy, trước kết quả thử nghiệm trên, Meta phải thừa nhận rằng đây mới chỉ là phiên bản thử nghiệm (preview) và tín hiệu nhận diện có thể bị mất nếu bức ảnh bị cắt cúp quá mạnh.
Giới hạn của công nghệ đóng dấu chìm
Không chỉ riêng Meta, các ông lớn công nghệ khác như Google hay OpenAI cũng từng đưa ra cảnh báo rằng các công cụ phát hiện của họ không thể chống lại hoàn toàn các thủ thuật chỉnh sửa ảnh.Theo các chuyên gia trong lĩnh vực giám định hình ảnh AI, những phương pháp dựa trên watermark chỉ thực sự hiệu quả khi dấu chìm còn nguyên vẹn. Bất kỳ tác động nào làm suy yếu hoặc loại bỏ tín hiệu được nhúng bên trong – như cắt cúp, thay đổi kích thước, nén dung lượng nặng hay chỉnh sửa sâu – đều có thể làm giảm đáng kể độ chính xác của công cụ quét.
Hồi tháng 3, Ban Giám sát của Meta cũng đã lên tiếng kêu gọi công ty cần nỗ lực hơn nữa để giải quyết tình trạng "bùng nổ nội dung AI mang tính lừa đảo" trên các nền tảng của mình, đồng thời yêu cầu hãng đầu tư mạnh hơn vào các công cụ phát hiện hiệu quả.
Dù vẫn còn nhiều lỗ hổng, các nhà nghiên cứu bảo mật cho rằng công nghệ đóng dấu chìm vẫn là một hướng đi triển vọng cho tương lai của nội dung do AI tạo ra. Nó có thể không hoàn hảo 100%, nhưng việc ngăn chặn được phần lớn các trường hợp giả mạo vẫn là một bước tiến lớn so với việc không có biện pháp bảo vệ nào.
