Duy Linh
Writer
Các nhà nghiên cứu của Unit 42 vừa phát hiện một phương thức tấn công chuỗi cung ứng mới mang tên "chiếm đoạt tên miền ảo" (slopsquatting). Kỹ thuật này khai thác hiện tượng ảo giác (hallucination) của các mô hình ngôn ngữ lớn (LLM), khi AI tạo ra những tên miền có vẻ hợp lệ nhưng thực tế chưa tồn tại. Tin tặc sau đó nhanh chóng đăng ký các tên miền này để phát tán bộ công cụ lừa đảo, phần mềm độc hại và nhiều hạ tầng tấn công khác.
Để đánh giá quy mô của mối đe dọa, Unit 42 đã thử nghiệm có hệ thống trên hai họ mô hình LLM với nhiều mức nhiệt độ khác nhau. Nhóm nghiên cứu tạo ra kho dữ liệu gồm 2,1 triệu URL, qua đó phát hiện cả những URL độc hại đang hoạt động lẫn một bề mặt tấn công rất lớn từ các tên miền ảo chưa được đăng ký. Theo đánh giá, đây là lỗ hổng có thể làm thay đổi cách đánh giá rủi ro trong phát triển phần mềm hiện đại cũng như các quy trình làm việc sử dụng AI tác nhân.
Chu kỳ của cuộc tấn công gồm bốn giai đoạn: Khám phá, Hành động, Dụ dỗ và Vượt qua.
Trong nghiên cứu, nhóm đã thực hiện 685.339 yêu cầu đối với 913 thương hiệu toàn cầu, tạo ra khoảng 809.455 URL thuộc các tên miền không tồn tại (NXD). Sau khi chuẩn hóa, dữ liệu còn khoảng 250.000 tên miền ảo duy nhất.
Chu kỳ tấn công chiếm đóng ảo trải qua bốn giai đoạn
Trong tổng số URL được tạo, 13.229 URL được xác nhận là độc hại thông qua hoạt động thu thập dữ liệu chủ động và thông tin tình báo mối đe dọa. Trong đó, 67,2% được sử dụng để phát tán phần mềm độc hại và 16,2% phục vụ các chiến dịch lừa đảo.
Một ví dụ điển hình là chiến dịch mang tên Montana Empire. Hệ thống của Unit 42 đã đánh dấu một tên miền thương mại điện tử bưu chính ảo có rủi ro cao 23 ngày trước khi tin tặc đăng ký và triển khai hoàn chỉnh bộ công cụ lừa đảo.
Phân tích pháp y cho thấy bộ công cụ này chứa thư mục dự án của một trợ lý lập trình AI cùng các công cụ phục vụ thu thập dữ liệu từ cửa hàng trực tuyến, triển khai hệ thống phụ trợ PHP và đánh cắp thông tin đăng nhập thông qua bảng điều khiển dựa trên Telegram.
Một trường hợp khác liên quan đến tệp APK Android độc hại được phát tán từ một tên miền ứng dụng bưu chính ảo. Tên miền này được đăng ký 51 ngày sau khi Unit 42 đưa vào danh sách theo dõi.
Các phát hiện cho thấy tin tặc đang tận dụng AI không chỉ để tìm kiếm những "ảo giác" có giá trị mà còn để tăng tốc quá trình phát triển nội dung có thể bị vũ khí hóa.
Theo báo cáo của Unit 42 chia sẻ với GBHackers, hoạt động giám sát chủ động cho thấy nhiều tên miền ảo đã bị tin tặc đăng ký chỉ sau vài ngày hoặc vài tuần kể từ khi LLM tạo ra chúng. Trong nhiều trường hợp, các nhà nghiên cứu dự đoán được việc đăng ký của đối phương trước từ 18 đến 51 ngày.
Khi LLM tạo ra một URL có vẻ đáng tin cậy, cả người dùng lẫn các tác nhân tự động thường sử dụng mà không xác minh độc lập. Điều này khiến đầu ra của AI trở thành một dạng phụ thuộc chuỗi cung ứng mới, nơi chính sản phẩm do mô hình tạo ra có thể bị biến thành vũ khí ngay từ đầu.
Các tác nhân tinh vi còn sử dụng nhiều kỹ thuật né tránh như chuyển hướng ngụy trang và cổng CAPTCHA nhằm kéo dài thời gian trước khi bị phát hiện.
Phương pháp nghiên cứu của Unit 42 kết hợp một tác nhân tạo lời nhắc đối kháng, một tác nhân sinh URL trên nhiều mô hình và mức nhiệt độ khác nhau, cùng quy trình xác minh bằng thu thập thông tin, phân tích quyền sở hữu và đối chiếu với dữ liệu tình báo mối đe dọa.
So sánh kết quả LLM
Kết quả so sánh cho thấy loại mô hình và mức nhiệt độ ảnh hưởng đáng kể đến tỷ lệ tạo tên miền không tồn tại. Một mô hình LLM tối ưu cho doanh nghiệp tạo ra tỷ lệ NXD 44,6%, cao hơn mô hình còn lại với 27,5%. Mức nhiệt độ Creative cũng làm tăng đáng kể hiện tượng ảo giác, trong khi tỷ lệ URL độc hại gần như ổn định giữa các cấu hình.
Phân bố mẫu URL của ảo giác NXD trên các hệ thống LLM
Nhóm nghiên cứu nhận định lực lượng phòng thủ có thể tạo lợi thế bằng cách chủ động lập danh sách các tên miền ảo mà AI sinh ra và theo dõi hoạt động đăng ký. Unit 42 đã chứng minh khả năng dự đoán các đăng ký của tin tặc trước từ vài ngày đến vài tuần, đồng thời phát hiện việc triển khai hạ tầng tấn công ngay trong ngày.
Các sản phẩm Advanced WildFire, Advanced URL Filtering, Advanced DNS Security, Prisma AIRS và Koi Agentic Endpoint Security của Palo Alto Networks được thiết kế để giảm thiểu các mối đe dọa từ chiếm đoạt tên miền ảo. Trong khi đó, công cụ đánh giá an ninh AI của Unit 42 có thể hỗ trợ các tổ chức tăng cường bảo mật khi triển khai AI.
Khi AI ngày càng tự động hóa các tác vụ như truy cập web, tải thư viện phụ thuộc và tích hợp quy trình CI/CD, rủi ro cũng tăng theo. Một tác nhân AI có thể tự động truy cập URL ảo, tải xuống và thực thi nội dung độc hại mà không cần sự can thiệp của con người.
Vì vậy, việc chiếm đoạt tên miền ảo đã biến lỗi ảo giác của LLM thành một kỹ thuật tấn công chủ động. Điều này buộc các tổ chức phải coi mọi đầu ra của mô hình AI là thành phần bên thứ ba chưa đáng tin cậy, đồng thời triển khai các biện pháp như giám sát đăng ký tên miền, xác minh URL và xây dựng chính sách sử dụng AI an toàn trong chiến lược bảo vệ chuỗi cung ứng phần mềm.
IOC đáng chú ý
Để đánh giá quy mô của mối đe dọa, Unit 42 đã thử nghiệm có hệ thống trên hai họ mô hình LLM với nhiều mức nhiệt độ khác nhau. Nhóm nghiên cứu tạo ra kho dữ liệu gồm 2,1 triệu URL, qua đó phát hiện cả những URL độc hại đang hoạt động lẫn một bề mặt tấn công rất lớn từ các tên miền ảo chưa được đăng ký. Theo đánh giá, đây là lỗ hổng có thể làm thay đổi cách đánh giá rủi ro trong phát triển phần mềm hiện đại cũng như các quy trình làm việc sử dụng AI tác nhân.
Chu kỳ của cuộc tấn công gồm bốn giai đoạn: Khám phá, Hành động, Dụ dỗ và Vượt qua.
Trong nghiên cứu, nhóm đã thực hiện 685.339 yêu cầu đối với 913 thương hiệu toàn cầu, tạo ra khoảng 809.455 URL thuộc các tên miền không tồn tại (NXD). Sau khi chuẩn hóa, dữ liệu còn khoảng 250.000 tên miền ảo duy nhất.
Chu kỳ tấn công chiếm đóng ảo trải qua bốn giai đoạn
Trong tổng số URL được tạo, 13.229 URL được xác nhận là độc hại thông qua hoạt động thu thập dữ liệu chủ động và thông tin tình báo mối đe dọa. Trong đó, 67,2% được sử dụng để phát tán phần mềm độc hại và 16,2% phục vụ các chiến dịch lừa đảo.
Một ví dụ điển hình là chiến dịch mang tên Montana Empire. Hệ thống của Unit 42 đã đánh dấu một tên miền thương mại điện tử bưu chính ảo có rủi ro cao 23 ngày trước khi tin tặc đăng ký và triển khai hoàn chỉnh bộ công cụ lừa đảo.
Phân tích pháp y cho thấy bộ công cụ này chứa thư mục dự án của một trợ lý lập trình AI cùng các công cụ phục vụ thu thập dữ liệu từ cửa hàng trực tuyến, triển khai hệ thống phụ trợ PHP và đánh cắp thông tin đăng nhập thông qua bảng điều khiển dựa trên Telegram.
Một trường hợp khác liên quan đến tệp APK Android độc hại được phát tán từ một tên miền ứng dụng bưu chính ảo. Tên miền này được đăng ký 51 ngày sau khi Unit 42 đưa vào danh sách theo dõi.
Các phát hiện cho thấy tin tặc đang tận dụng AI không chỉ để tìm kiếm những "ảo giác" có giá trị mà còn để tăng tốc quá trình phát triển nội dung có thể bị vũ khí hóa.
Theo báo cáo của Unit 42 chia sẻ với GBHackers, hoạt động giám sát chủ động cho thấy nhiều tên miền ảo đã bị tin tặc đăng ký chỉ sau vài ngày hoặc vài tuần kể từ khi LLM tạo ra chúng. Trong nhiều trường hợp, các nhà nghiên cứu dự đoán được việc đăng ký của đối phương trước từ 18 đến 51 ngày.
Tên miền ảo của AI tạo ra thách thức mới cho phòng thủ
Tấn công chiếm đoạt tên miền ảo khai thác điểm yếu trong các hệ thống phòng thủ dựa trên uy tín. Do các tên miền mới đăng ký không có dữ liệu lịch sử, danh sách chặn, điểm uy tín và nguồn cấp dữ liệu tình báo mối đe dọa gần như không thể đưa ra cảnh báo ngay lập tức.Khi LLM tạo ra một URL có vẻ đáng tin cậy, cả người dùng lẫn các tác nhân tự động thường sử dụng mà không xác minh độc lập. Điều này khiến đầu ra của AI trở thành một dạng phụ thuộc chuỗi cung ứng mới, nơi chính sản phẩm do mô hình tạo ra có thể bị biến thành vũ khí ngay từ đầu.
Các tác nhân tinh vi còn sử dụng nhiều kỹ thuật né tránh như chuyển hướng ngụy trang và cổng CAPTCHA nhằm kéo dài thời gian trước khi bị phát hiện.
Phương pháp nghiên cứu của Unit 42 kết hợp một tác nhân tạo lời nhắc đối kháng, một tác nhân sinh URL trên nhiều mô hình và mức nhiệt độ khác nhau, cùng quy trình xác minh bằng thu thập thông tin, phân tích quyền sở hữu và đối chiếu với dữ liệu tình báo mối đe dọa.
So sánh kết quả LLM
Kết quả so sánh cho thấy loại mô hình và mức nhiệt độ ảnh hưởng đáng kể đến tỷ lệ tạo tên miền không tồn tại. Một mô hình LLM tối ưu cho doanh nghiệp tạo ra tỷ lệ NXD 44,6%, cao hơn mô hình còn lại với 27,5%. Mức nhiệt độ Creative cũng làm tăng đáng kể hiện tượng ảo giác, trong khi tỷ lệ URL độc hại gần như ổn định giữa các cấu hình.
Phân bố mẫu URL của ảo giác NXD trên các hệ thống LLM
Nhóm nghiên cứu nhận định lực lượng phòng thủ có thể tạo lợi thế bằng cách chủ động lập danh sách các tên miền ảo mà AI sinh ra và theo dõi hoạt động đăng ký. Unit 42 đã chứng minh khả năng dự đoán các đăng ký của tin tặc trước từ vài ngày đến vài tuần, đồng thời phát hiện việc triển khai hạ tầng tấn công ngay trong ngày.
Các sản phẩm Advanced WildFire, Advanced URL Filtering, Advanced DNS Security, Prisma AIRS và Koi Agentic Endpoint Security của Palo Alto Networks được thiết kế để giảm thiểu các mối đe dọa từ chiếm đoạt tên miền ảo. Trong khi đó, công cụ đánh giá an ninh AI của Unit 42 có thể hỗ trợ các tổ chức tăng cường bảo mật khi triển khai AI.
Khi AI ngày càng tự động hóa các tác vụ như truy cập web, tải thư viện phụ thuộc và tích hợp quy trình CI/CD, rủi ro cũng tăng theo. Một tác nhân AI có thể tự động truy cập URL ảo, tải xuống và thực thi nội dung độc hại mà không cần sự can thiệp của con người.
Vì vậy, việc chiếm đoạt tên miền ảo đã biến lỗi ảo giác của LLM thành một kỹ thuật tấn công chủ động. Điều này buộc các tổ chức phải coi mọi đầu ra của mô hình AI là thành phần bên thứ ba chưa đáng tin cậy, đồng thời triển khai các biện pháp như giám sát đăng ký tên miền, xác minh URL và xây dựng chính sách sử dụng AI an toàn trong chiến lược bảo vệ chuỗi cung ứng phần mềm.
IOC đáng chú ý
- SHA-256: eb07edaa2786cfddfa4c15526168f2200d85300aee0a8f253b32d2462a7b0bcd
- Kích thước tệp: 7.958.528 byte
- Loại tệp: ZIP
- Tên tệp: [đã lược bỏ].zip (tên thương hiệu của nền tảng thương mại điện tử bưu chính)
- Vị trí tệp: hxxp[:]//[đã lược bỏ][.]com/[đã lược bỏ].zip
- hxxp[:]//[đã lược bỏ][.]com/[đã lược bỏ].zip
- hxxp[:]//[đã lược bỏ][.]com/letgovip.zip
- hxxp[:]//[đã lược bỏ][.]com/mentalite.php
- hxxp[:]//[đã lược bỏ][.]com/panel_track.php
- hxxp[:]//[đã lược bỏ][.]com/verify_api.php
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
