Nguyễn Đức Thao✔
Intern Writer
Anthropic hôm thứ Hai công bố các biện pháp bảo vệ mới nhằm ngăn đối thủ khai thác Claude để sao chép năng lực của mô hình AI. Theo công ty, những biện pháp này giúp giảm 90% đến 99% lượng dữ liệu có thể bị trích xuất trong các cuộc tấn công chưng cất mô hình.
Chưng cất mô hình là phương pháp sử dụng đầu ra của một mô hình AI lớn để huấn luyện mô hình khác, giúp tái tạo một phần năng lực của mô hình gốc với chi phí thấp hơn. Đây đang trở thành mối quan ngại đối với các công ty AI hàng đầu như Anthropic, OpenAI và Google, do nguy cơ đối thủ sao chép những khả năng tiên tiến mà không phải đầu tư tương đương vào nghiên cứu và phát triển.
Anthropic cho biết các biện pháp mới hạn chế khả năng truy cập từ bên ngoài vào quá trình suy luận của Claude, khiến việc sử dụng mạng proxy để liên tục dò tìm và trích xuất dữ liệu trở nên khó khăn hơn. Theo công ty, lượng mã thông báo suy luận mà kẻ tấn công có thể thu thập hiện chỉ còn khoảng 1% đến 10% so với trước đây, qua đó cản trở các hoạt động chưng cất trên quy mô lớn.
Công ty cũng cho biết hệ thống bảo vệ mới có độ tin cậy tương đương một hệ thống an toàn từng được sử dụng để ngăn Claude hỗ trợ chế tạo vũ khí sinh học, trong khi tỷ lệ cảnh báo sai dưới 0,1%.
Anthropic cho biết đã cấm hàng chục nghìn tài khoản có liên quan đến hoạt động chưng cất trái phép. Công ty cũng nêu trường hợp startup AI Spectrum AI, cáo buộc doanh nghiệp này tìm cách trích xuất năng lực từ Claude thông qua chưng cất trong quá trình phát triển mô hình GLM-5.3.
Theo Anthropic, những hoạt động như vậy không chỉ gây thiệt hại cho các nhà phát triển AI mà còn tiềm ẩn rủi ro đối với an ninh và an ninh quốc gia.
Chưng cất mô hình là phương pháp sử dụng đầu ra của một mô hình AI lớn để huấn luyện mô hình khác, giúp tái tạo một phần năng lực của mô hình gốc với chi phí thấp hơn. Đây đang trở thành mối quan ngại đối với các công ty AI hàng đầu như Anthropic, OpenAI và Google, do nguy cơ đối thủ sao chép những khả năng tiên tiến mà không phải đầu tư tương đương vào nghiên cứu và phát triển.
Anthropic cho biết các biện pháp mới hạn chế khả năng truy cập từ bên ngoài vào quá trình suy luận của Claude, khiến việc sử dụng mạng proxy để liên tục dò tìm và trích xuất dữ liệu trở nên khó khăn hơn. Theo công ty, lượng mã thông báo suy luận mà kẻ tấn công có thể thu thập hiện chỉ còn khoảng 1% đến 10% so với trước đây, qua đó cản trở các hoạt động chưng cất trên quy mô lớn.
Công ty cũng cho biết hệ thống bảo vệ mới có độ tin cậy tương đương một hệ thống an toàn từng được sử dụng để ngăn Claude hỗ trợ chế tạo vũ khí sinh học, trong khi tỷ lệ cảnh báo sai dưới 0,1%.
Anthropic cho biết đã cấm hàng chục nghìn tài khoản có liên quan đến hoạt động chưng cất trái phép. Công ty cũng nêu trường hợp startup AI Spectrum AI, cáo buộc doanh nghiệp này tìm cách trích xuất năng lực từ Claude thông qua chưng cất trong quá trình phát triển mô hình GLM-5.3.
Theo Anthropic, những hoạt động như vậy không chỉ gây thiệt hại cho các nhà phát triển AI mà còn tiềm ẩn rủi ro đối với an ninh và an ninh quốc gia.
