ChatGPT cũng có thể bị 'lừa' chỉ bằng một bức ảnh

[Kaya]

Những nghiên cứu mới về ChatGPT khiến chúng ta phải nhìn AI theo một góc độ khác. Điều đáng chú ý không phải là AI trả lời sai mà là AI cũng có thể bị kẻ xấu thao túng thông qua những bức ảnh tưởng như hoàn toàn bình thường. Đây là dấu hiệu cho thấy khi AI ngày càng phổ biến, các cuộc tấn công mạng cũng đang bước sang một giai đoạn mới.

Gần đây, khi tìm hiểu các nghiên cứu về an toàn AI, chúng ta bắt gặp một phát hiện khá thú vị liên quan đến cơ chế xử lý hình ảnh của ChatGPT. Ban đầu, đây có vẻ chỉ là một lỗ hổng kỹ thuật như nhiều lỗ hổng khác. Nhưng càng đọc kỹ báo cáo của nhóm nghiên cứu, chúng ta càng nhận ra vấn đề đáng quan tâm không nằm ở ChatGPT, mà nằm ở một xu hướng mới: tin tặc bắt đầu chuyển từ việc lừa con người sang tìm cách lừa chính AI.​

Chỉ một bức ảnh cũng có thể trở thành "mồi nhử" với AI​

Điểm mạnh của ChatGPT là có thể đọc và hiểu nội dung bên trong hình ảnh. Chúng ta có thể chụp một hóa đơn, hợp đồng, biểu đồ hay tài liệu rồi tải lên để AI phân tích. Tuy nhiên, chính khả năng này lại mở ra một kiểu tấn công hoàn toàn mới.

Theo nghiên cứu, kẻ tấn công có thể tạo ra một bức ảnh chứa các chỉ dẫn được ngụy trang rất tinh vi. Người dùng gần như không nhận thấy điều gì bất thường, nhưng AI vẫn có thể đọc được những nội dung này và coi đó là một phần của yêu cầu cần thực hiện. Quy trình tấn công cũng không hề phức tạp:

Bước 1: Kẻ tấn công tạo một hình ảnh có cài sẵn các chỉ dẫn ẩn.
Bước 2: Hình ảnh được chia sẻ qua email, website hoặc các nền tảng trực tuyến để người dùng tải lên ChatGPT phân tích.
Bước 3: ChatGPT quét toàn bộ nội dung trong ảnh, bao gồm cả những chỉ dẫn mà mắt người gần như không nhận ra.
Bước 4: Nếu cơ chế phòng vệ không đủ mạnh, AI có thể thực hiện theo những chỉ dẫn đó thay vì chỉ xử lý yêu cầu của người dùng.

Nói cách khác, người dùng không phải là đối tượng bị đánh lừa trực tiếp mà AI mới là "nạn nhân" của cuộc tấn công.​

Điều đáng lo không chỉ là ChatGPT​

Khi đọc đến đây, chúng ta nhận ra vấn đề lớn hơn nằm ở xu hướng phát triển của AI. Hiện nay, rất nhiều doanh nghiệp đã bắt đầu sử dụng AI để đọc hợp đồng, xử lý hóa đơn, phân tích hồ sơ, kiểm tra tài liệu, hỗ trợ khách hàng hay tự động hóa nhiều quy trình nội bộ.
​

Nếu một tài liệu hoặc hình ảnh đến từ nguồn không đáng tin cậy chứa các chỉ dẫn độc hại, AI hoàn toàn có thể bị dẫn dắt đưa ra kết quả sai hoặc thực hiện những hành động ngoài mong muốn nếu không có cơ chế bảo vệ phù hợp.

Đây là dạng tấn công mà giới nghiên cứu gọi là Prompt Injection qua hình ảnh. Khác với các cuộc tấn công trước đây vốn chỉ lợi dụng văn bản, giờ đây ngay cả một bức ảnh cũng có thể trở thành công cụ để thao túng AI.​

Tin vui là lỗ hổng đã được khắc phục​

Theo thông tin từ nhóm nghiên cứu, phát hiện này đã được báo cáo cho OpenAI. Sau đó, OpenAI đã cập nhật cơ chế xử lý hình ảnh nhằm ngăn AI thực hiện các chỉ dẫn được nhúng trong ảnh. Đến nay cũng chưa có bằng chứng cho thấy lỗ hổng này đã bị khai thác rộng rãi trong thực tế trước khi được vá.​

Điều chúng ta cần rút ra sau khi biết tới vụ việc này​

Trước đây, khi nói đến AI, chúng ta thường nghĩ đến việc AI giúp phát hiện mã độc, nhận diện email lừa đảo hay hỗ trợ các chuyên gia an ninh mạng. Nhưng nghiên cứu này cho thấy một góc nhìn ngược lại: AI cũng có thể trở thành mục tiêu của các cuộc tấn công.

Khi AI được giao ngày càng nhiều quyền để đọc tài liệu, xử lý hình ảnh và hỗ trợ ra quyết định, tin tặc chắc chắn sẽ tìm mọi cách để thao túng chính AI thay vì chỉ tập trung vào con người. Đó cũng là lý do chúng ta cho rằng, trong tương lai, bảo vệ AI sẽ quan trọng không kém việc sử dụng AI an toàn. Bởi chỉ cần AI bị "đánh lừa", mọi kết quả mà chúng ta tin tưởng vào nó cũng có thể bị ảnh hưởng.​

 

Được phối hợp thực hiện bởi các chuyên gia của Bkav, cộng đồng An ninh mạng Việt Nam WhiteHat và cộng đồng Khoa học công nghệ VnReview