Hiểm họa từ việc AI trở thành nơi 'trút lòng tâm sự'

[Kaya✔]

Cuộc sống càng hiện đại thì con người lại trở nên vội vã và xa cách hơn. Có lẽ vì nguyên nhân này khiến AI đang trở thành nơi người trẻ nói ra những điều mà họ không muốn nói với cha mẹ, bạn bè hay thầy cô. Một cuộc trò chuyện với chatbot có vẻ rất riêng tư: không có ánh mắt đánh giá, không sợ bị ngắt lời, không phải giải thích quá nhiều và AI gần như luôn sẵn sàng lắng nghe.

Nhưng một chatbot không phải là một cuốn nhật ký giấy được khóa trong ngăn bàn. Những gì người dùng nhập vào vẫn là dữ liệu số, được truyền tới hệ thống của nhà cung cấp và có thể chịu sự điều chỉnh của chính sách lưu trữ, xử lý và bảo vệ dữ liệu của nền tảng. Các vấn đề về dữ liệu cá nhân khi sử dụng AI cũng đã được đặt ra, đặc biệt khi người dùng đưa vào hệ thống những thông tin nhạy cảm mà họ không nghĩ đến hậu quả lâu dài.

Và đây chính là điều khiến mình thấy câu chuyện này đáng lo hơn bình thường. Một đứa trẻ có thể không nghĩ rằng việc kể với chatbot rằng "bố mẹ đang ly hôn", "mình bị bắt nạt", "mình thích ai đó", "mình đang gặp vấn đề ở trường", "gia đình mình có chuyện gì" là đang cung cấp dữ liệu cá nhân. Với trẻ, đó chỉ đơn giản là một cuộc trò chuyện.
​

​

Nhưng nếu những thông tin đó được ghép lại, chúng có thể tạo thành một bức tranh rất chi tiết về một con người: hoàn cảnh gia đình, các mối quan hệ, nỗi sợ, sở thích, thói quen, vấn đề đang gặp phải và thậm chí cả trạng thái cảm xúc.

Một thông tin riêng lẻ có thể không có nhiều giá trị. Nhưng hàng chục, hàng trăm cuộc trò chuyện theo thời gian lại là chuyện khác. Nếu một tài khoản AI bị chiếm quyền, dữ liệu bị lộ hoặc hệ thống bị tấn công, những thứ bị đánh cắp có thể không chỉ là tên, email hay số điện thoại mà là những bí mật, những suy nghĩ thầm kín nhất mà chính người dùng từng nghĩ chỉ có mình và AI biết.

Nguy hiểm hơn, dữ liệu này còn có thể bị khai thác cho social engineering. Một kẻ lừa đảo biết một đứa trẻ đang gặp vấn đề với gia đình, đang lo chuyện học tập hay đang quan tâm đến một người nào đó sẽ có nhiều "điểm chạm" để xây dựng một câu chuyện lừa đảo thuyết phục hơn rất nhiều so với việc chỉ biết tên và số điện thoại.

Chẳng hạn, thay vì gửi một tin nhắn lừa đảo chung chung, kẻ xấu có thể lợi dụng những thông tin riêng tư để giả danh người quen, bạn học hoặc một người mà nạn nhân đang tin tưởng. Càng hiểu nạn nhân, kẻ lừa đảo càng dễ khiến nạn nhân tin mình.

Điều này đặc biệt đáng chú ý khi đối tượng sử dụng là trẻ em. Trẻ chưa chắc đã phân biệt được đâu là thông tin có thể chia sẻ và đâu là bí mật cần bảo vệ. Nếu cha mẹ dạy trẻ không gửi ảnh CCCD, mật khẩu hay số tài khoản cho người lạ, thì có lẽ cũng cần dạy thêm một nguyên tắc mới: không phải điều gì không muốn người khác biết thì đều nên kể cho chatbot AI.

AI vẫn có thể là một công cụ hữu ích. Một đứa trẻ đang buồn, căng thẳng hoặc không biết phải bắt đầu câu chuyện với ai có thể tìm thấy ở chatbot một nơi để diễn đạt suy nghĩ và sắp xếp cảm xúc. Nhưng AI không nên trở thành nơi duy nhất trẻ tìm đến khi gặp vấn đề, và càng không nên được mặc định là một "chiếc hộp bí mật" tuyệt đối an toàn.

Có lẽ bài học lớn nhất ở đây là trong thế giới số, sự riêng tư không chỉ bị đe dọa khi chúng ta đăng một bức ảnh lên mạng. Đôi khi chính những câu nói tưởng như riêng tư nhất, những điều chúng ta chỉ dám kể với một chatbot, mới là thứ chứa nhiều thông tin có giá trị nhất.

Vì vậy, khi trẻ em bắt đầu coi AI như một người bạn để tâm sự, câu hỏi cần đặt ra không chỉ là "AI đã khuyên con điều gì?", mà còn phải là "Con đã kể cho AI những gì?" và "Những thông tin đó sẽ đi đâu?". Đây có lẽ sẽ trở thành một phần rất quan trọng của kỹ năng an toàn số mà trẻ em cần được học trong thời đại AI.​

 

Được phối hợp thực hiện bởi các chuyên gia của Bkav, cộng đồng An ninh mạng Việt Nam WhiteHat và cộng đồng Khoa học công nghệ VnReview