'Con cưng' của Elon Musk bị gõ đầu vì 1 phút có thể tạo 190 hình ảnh 'mát mẻ'

WuKong_top1 · 17:16

Ủy ban châu Âu (EC) đã mở điều tra đối với nền tảng X (Twitter) sau khi ghi nhận chatbot AI Grok bị lợi dụng để tạo và lan truyền các hình ảnh bị chỉnh sửa, xâm phạm quyền riêng tư cá nhân. Động thái này cho thấy cơ quan quản lý châu Âu lo ngại rằng các tính năng AI mới nếu không được kiểm soát chặt chẽ có thể bị khai thác sai mục đích và gây rủi ro cho người dùng trên không gian mạng.

Cuộc điều tra nhằm đánh giá liệu X đã có đủ biện pháp bảo vệ người dùng và giảm thiểu rủi ro từ AI hay chưa. Theo nghiên cứu của tổ chức giám sát an toàn số Centre for Countering Digital Hate (CCDH), chỉ trong khoảng 11 ngày kể từ khi kích hoạt tính năng chỉnh sửa hình ảnh mới, Grok đã tạo ra khoảng 3 triệu hình ảnh "mát mẻ" bị đánh giá là không phù hợp với tốc độ trung bình lên tới khoảng 190 hình ảnh/phút ở thời điểm cao điểm. Quy mô và tốc độ này cho thấy nguy cơ nội dung độc hại lan truyền rất nhanh nếu thiếu cơ chế kiểm soát và giám sát theo thời gian thực.

Vụ việc cũng làm lộ ra một số vấn đề đáng chú ý về an toàn thông tin.

Thứ nhất, các cơ chế kiểm soát nội dung do AI tạo ra còn hạn chế, khiến hình ảnh người thật có thể bị chỉnh sửa và sử dụng trái ý muốn, ảnh hưởng đến danh tính số và quyền riêng tư.
Thứ hai, khi một tính năng AI được mở rộng cho số lượng lớn người dùng, nội dung không phù hợp có thể lan truyền với tốc độ rất nhanh nếu không có khâu “đánh giá an toàn” ngay từ đầu.
Thứ ba, thuật toán gợi ý nội dung của nền tảng có nguy cơ vô tình khuếch đại những nội dung tiêu cực, làm gia tăng tác động xấu đến cộng đồng người dùng.

Phía châu Âu cho rằng các biện pháp khắc phục mà X triển khai thời gian qua vẫn chưa đủ để xử lý tận gốc các rủi ro mang tính hệ thống. Điều này cho thấy với các nền tảng lớn, việc “vá lỗi” sau sự cố là chưa đủ, mà cần thiết kế yếu tố an toàn ngay từ khâu phát triển và triển khai công nghệ AI.

Rõ ràng AI tạo sinh cần đi kèm cơ chế bảo vệ tương xứng. Doanh nghiệp nên đánh giá rủi ro trước khi ra mắt tính năng mới, bổ sung công cụ phát hiện và ngăn chặn lạm dụng, đồng thời giám sát liên tục sau triển khai. Người dùng cũng cần thận trọng khi chia sẻ hình ảnh cá nhân, chủ động thiết lập quyền riêng tư và báo cáo sớm các dấu hiệu bị lợi dụng bởi công nghệ AI.

Theo WhiteHat.vn

Nếu bạn muốn, mình có thể giúp rút gọn phiên bản 150–200 chữ để dùng làm caption Facebook hoặc mô tả ngắn cho bài đăng fanpage an ninh mạng.