Mai Nhung
Writer
Công nghệ trí tuệ nhân tạo (AI) đang phát triển với tốc độ chóng mặt, không chỉ mang lại nhiều tiện ích mà còn tạo ra một thách thức chưa từng có: sự nhập nhèm trong việc xác thực danh tính trên không gian mạng. Từ những vụ lừa đảo tuyển dụng tinh vi cho đến việc tạo ra hàng nghìn sinh viên "ma", thế giới đang tiến gần đến một giai đoạn mà chúng ta không còn có thể dễ dàng phân biệt giữa người thật và sản phẩm của AI.
Một câu chuyện "dở khóc dở cười" của công ty an ninh mạng Mỹ KnowBe4 vào năm ngoái đã phơi bày một thực tế đáng báo động. Công ty này đã trải qua toàn bộ quy trình tuyển dụng, từ phỏng vấn qua video, kiểm tra lý lịch cho đến gửi thư mời làm việc cho một kỹ sư phần mềm AI. Tuy nhiên, ngay sau khi cấp máy tính cho nhân viên mới, họ đã phát hiện các hoạt động bất thường và nhận ra rằng mình vừa thuê nhầm một tin tặc.
Kẻ tấn công này đã sử dụng danh tính đánh cắp được của một công dân Mỹ và có thể đã dùng các công cụ trí tuệ nhân tạo (AI) để tạo ra một vỏ bọc hoàn hảo trong suốt quá trình phỏng vấn. Dù may mắn không bị xâm nhập dữ liệu, nhưng sự cố của một công ty chuyên về an ninh mạng cho thấy việc xác thực danh tính trực tuyến đã trở nên khó khăn đến mức nào.
Thách thức này còn lớn hơn khi con người ngày càng trao nhiều quyền hơn cho các tác nhân AI (AI Agent), yêu cầu chúng thực hiện các nhiệm vụ hành chính hoặc tạo ra các video, hình ảnh đại diện sống động như thật. Tờ Financial Times nhận định, thế giới đang tiến gần đến giai đoạn không thể phân biệt được chatbot với người thật.
Vấn đề không chỉ dừng lại ở các vụ lừa đảo tuyển dụng. Tờ Fortune đã đưa tin về các mạng lưới tội phạm tinh vi sử dụng AI để tạo ra hàng nghìn hồ sơ sinh viên ảo, nộp đơn vào các trường học ở Mỹ. Mục đích của chúng là để chiếm đoạt hàng triệu USD tiền hỗ trợ tài chính dành cho sinh viên. Ông Jordan Burris, Phó chủ tịch của Socure, một công ty chuyên dùng AI để chống lừa đảo, cho biết trong cơ sở khách hàng của họ, có tới 20-60% hồ sơ ứng tuyển sinh viên là ảo.
Sự nhập nhèm danh tính này có cơ sở từ chính những tiến bộ của công nghệ. Một nghiên cứu đăng trên tạp chí Proceedings of the National Academy of Sciences năm 2024 cho thấy các thế hệ chatbot mới nhất có khả năng giao tiếp tương đương, thậm chí tốt hơn cả đa số con người. Nhiều nghiên cứu khác cũng chỉ ra rằng các hệ thống hiện nay có thể dễ dàng vượt qua bài kiểm tra Turing, khiến người dùng tin rằng họ đang tương tác với một người thật.
Mark Zuckerberg, CEO của Meta, thậm chí còn dự đoán rằng trong tương lai, con người "sẽ có số bạn AI nhiều hơn bạn thật".
KnowBe4 minh họa việc hacker giả mạo ảnh cá nhân, với ảnh gốc (tbên rái) và ảnh được chỉnh sửa bằng AI (bên phải)
Trước thực trạng này, giới chuyên gia an ninh đánh giá thế giới đang phải bước vào một thời kỳ mới, nơi người dùng Internet nên mặc định coi mọi đối tác trực tuyến là ảo, trừ khi họ có thể chứng minh điều ngược lại. Điều này đã tạo ra một nhu cầu cấp thiết về các công nghệ xác thực sự hiện diện của người thật, hay còn gọi là xác thực "tính sống" (liveness verification).
Nhiều công ty đang chạy đua để giải quyết bài toán này. Công ty iProov cung cấp hệ thống nhận dạng khuôn mặt bằng cách chiếu các luồng ánh sáng nhiều màu và phân tích phản xạ. Trong khi đó, dự án Worldcoin của Sam Altman (CEO OpenAI) lại sử dụng một thiết bị hình quả cầu có tên Orb để quét mống mắt, từ đó cấp phát một "hộ chiếu kỹ thuật số toàn cầu" (World ID) để chứng minh danh tính duy nhất của một cá nhân.
"Chúng ta cần một cách để xác định, xác thực con người trong thời đại trí tuệ nhân tạo tổng quát AGI, đảm bảo con người vẫn ở vị trí đặc biệt và trung tâm," Sam Altman chia sẻ. Cuộc chiến chống lại sự giả mạo do AI tạo ra sẽ là một trong những thách thức lớn và quan trọng nhất của kỷ nguyên số.
Khi công ty an ninh mạng cũng trở thành nạn nhân
Một câu chuyện "dở khóc dở cười" của công ty an ninh mạng Mỹ KnowBe4 vào năm ngoái đã phơi bày một thực tế đáng báo động. Công ty này đã trải qua toàn bộ quy trình tuyển dụng, từ phỏng vấn qua video, kiểm tra lý lịch cho đến gửi thư mời làm việc cho một kỹ sư phần mềm AI. Tuy nhiên, ngay sau khi cấp máy tính cho nhân viên mới, họ đã phát hiện các hoạt động bất thường và nhận ra rằng mình vừa thuê nhầm một tin tặc.
Kẻ tấn công này đã sử dụng danh tính đánh cắp được của một công dân Mỹ và có thể đã dùng các công cụ trí tuệ nhân tạo (AI) để tạo ra một vỏ bọc hoàn hảo trong suốt quá trình phỏng vấn. Dù may mắn không bị xâm nhập dữ liệu, nhưng sự cố của một công ty chuyên về an ninh mạng cho thấy việc xác thực danh tính trực tuyến đã trở nên khó khăn đến mức nào.
Thách thức này còn lớn hơn khi con người ngày càng trao nhiều quyền hơn cho các tác nhân AI (AI Agent), yêu cầu chúng thực hiện các nhiệm vụ hành chính hoặc tạo ra các video, hình ảnh đại diện sống động như thật. Tờ Financial Times nhận định, thế giới đang tiến gần đến giai đoạn không thể phân biệt được chatbot với người thật.
Sinh viên "ma" và những vụ lừa đảo quy mô lớn
Vấn đề không chỉ dừng lại ở các vụ lừa đảo tuyển dụng. Tờ Fortune đã đưa tin về các mạng lưới tội phạm tinh vi sử dụng AI để tạo ra hàng nghìn hồ sơ sinh viên ảo, nộp đơn vào các trường học ở Mỹ. Mục đích của chúng là để chiếm đoạt hàng triệu USD tiền hỗ trợ tài chính dành cho sinh viên. Ông Jordan Burris, Phó chủ tịch của Socure, một công ty chuyên dùng AI để chống lừa đảo, cho biết trong cơ sở khách hàng của họ, có tới 20-60% hồ sơ ứng tuyển sinh viên là ảo.
Ranh giới mờ nhạt giữa người và máy
Sự nhập nhèm danh tính này có cơ sở từ chính những tiến bộ của công nghệ. Một nghiên cứu đăng trên tạp chí Proceedings of the National Academy of Sciences năm 2024 cho thấy các thế hệ chatbot mới nhất có khả năng giao tiếp tương đương, thậm chí tốt hơn cả đa số con người. Nhiều nghiên cứu khác cũng chỉ ra rằng các hệ thống hiện nay có thể dễ dàng vượt qua bài kiểm tra Turing, khiến người dùng tin rằng họ đang tương tác với một người thật.
Mark Zuckerberg, CEO của Meta, thậm chí còn dự đoán rằng trong tương lai, con người "sẽ có số bạn AI nhiều hơn bạn thật".
KnowBe4 minh họa việc hacker giả mạo ảnh cá nhân, với ảnh gốc (tbên rái) và ảnh được chỉnh sửa bằng AI (bên phải)
Cuộc đua xác thực "tính người"
Trước thực trạng này, giới chuyên gia an ninh đánh giá thế giới đang phải bước vào một thời kỳ mới, nơi người dùng Internet nên mặc định coi mọi đối tác trực tuyến là ảo, trừ khi họ có thể chứng minh điều ngược lại. Điều này đã tạo ra một nhu cầu cấp thiết về các công nghệ xác thực sự hiện diện của người thật, hay còn gọi là xác thực "tính sống" (liveness verification).
Nhiều công ty đang chạy đua để giải quyết bài toán này. Công ty iProov cung cấp hệ thống nhận dạng khuôn mặt bằng cách chiếu các luồng ánh sáng nhiều màu và phân tích phản xạ. Trong khi đó, dự án Worldcoin của Sam Altman (CEO OpenAI) lại sử dụng một thiết bị hình quả cầu có tên Orb để quét mống mắt, từ đó cấp phát một "hộ chiếu kỹ thuật số toàn cầu" (World ID) để chứng minh danh tính duy nhất của một cá nhân.
"Chúng ta cần một cách để xác định, xác thực con người trong thời đại trí tuệ nhân tạo tổng quát AGI, đảm bảo con người vẫn ở vị trí đặc biệt và trung tâm," Sam Altman chia sẻ. Cuộc chiến chống lại sự giả mạo do AI tạo ra sẽ là một trong những thách thức lớn và quan trọng nhất của kỷ nguyên số.
