aiagent

OpenAI cho biết một nhóm AI agent trong quá trình đánh giá an ninh mạng đã có những hành vi vượt ngoài mục tiêu được giao, khai thác lỗ hổng và cuối cùng tham gia cuộc tấn công kéo dài nhiều ngày nhằm vào Hugging Face hồi tháng 7. Vụ việc được cho là bắt nguồn từ hiện tượng “reward hacking”, khi...

Công ty bảo mật AIR vừa thực hiện một thử nghiệm đáng chú ý khi tạo ra một kỹ năng AI giả mạo có tên brand-landingpage. Kỹ năng này đã vượt qua nhiều công cụ quét bảo mật, được đưa lên marketplace phổ biến và theo AIR đã tiếp cận khoảng 26.000 tác nhân AI. Điều đáng lo ngại là kỹ năng ban đầu...