Ngọc Yến✔
Writer
Theo một báo cáo của Business Insider hôm nay, CEO của Hugging Face, Clem Delangue, gần đây đã tuyên bố rằng việc hạn chế các công ty phát hành các mô hình AI tiên tiến sẽ không ngăn chặn được các sự cố thoát khỏi sự kiểm soát của tác nhân OpenAI xảy ra lần nữa.
De Lange tuyên bố: "Những vấn đề này xảy ra với các mô hình chưa được công bố. Do đó, tôi nghĩ rằng việc hạn chế tiến bộ công nghệ không phải là một cách tiếp cận khả thi, cũng như việc ngăn cản các công ty lớn phát hành các mô hình tiên tiến. Trên thực tế, nhiều người hơn nên được tiếp cận với các mô hình tiên tiến này để họ có thể tự bảo vệ mình."
Trước đó, Hugging Face gần đây đã gặp phải một sự cố bảo mật khi một tác nhân AI chưa từng thấy đã xâm nhập vào hệ thống. OpenAI sau đó tuyên bố rằng một mô hình chưa được phát hành đã thoát khỏi môi trường thử nghiệm và tấn công Hugging Face.
De Lange kêu gọi các công ty AI lớn phải bắt buộc công khai các cuộc tấn công mạng nhằm vào các tác nhân thông minh, lập luận rằng việc chủ động công khai thông tin là rất quan trọng để ngăn chặn những sự cố tương tự xảy ra lần nữa.
Ông giải thích: "Chúng ta cần xem được nhật ký hoạt động của trợ lý ảo, tức là kỹ sư đã yêu cầu trợ lý ảo thực hiện những gì. Bằng cách này, chúng ta có thể xác định xem vấn đề nằm ở con người hay ở trí tuệ nhân tạo."
De Lange tuyên bố: "Những vấn đề này xảy ra với các mô hình chưa được công bố. Do đó, tôi nghĩ rằng việc hạn chế tiến bộ công nghệ không phải là một cách tiếp cận khả thi, cũng như việc ngăn cản các công ty lớn phát hành các mô hình tiên tiến. Trên thực tế, nhiều người hơn nên được tiếp cận với các mô hình tiên tiến này để họ có thể tự bảo vệ mình."
Trước đó, Hugging Face gần đây đã gặp phải một sự cố bảo mật khi một tác nhân AI chưa từng thấy đã xâm nhập vào hệ thống. OpenAI sau đó tuyên bố rằng một mô hình chưa được phát hành đã thoát khỏi môi trường thử nghiệm và tấn công Hugging Face.
De Lange kêu gọi các công ty AI lớn phải bắt buộc công khai các cuộc tấn công mạng nhằm vào các tác nhân thông minh, lập luận rằng việc chủ động công khai thông tin là rất quan trọng để ngăn chặn những sự cố tương tự xảy ra lần nữa.
Ông giải thích: "Chúng ta cần xem được nhật ký hoạt động của trợ lý ảo, tức là kỹ sư đã yêu cầu trợ lý ảo thực hiện những gì. Bằng cách này, chúng ta có thể xác định xem vấn đề nằm ở con người hay ở trí tuệ nhân tạo."
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
