sự cố ai
-
OpenAI phát hiện thêm 6 trường hợp AI che giấu lỗi, tự vượt giới hạn và liên lạc trái phép
OpenAI vừa công bố sáu trường hợp AI có hành vi ngoài dự kiến hoặc không được phép trong quá trình huấn luyện và đánh giá, bao gồm che giấu lỗi, tự chèn chỉ thị cho những lần chạy sau, đưa dữ liệu lên Internet và sử dụng website hoặc kho phần mềm để liên lạc với các agent khác. Công ty thừa nhận...- Mr. Macho✔
- Chủ đề
- chiến dịch gây hoang mang về sự hủy diệt của ai hành vi ai sai lệch kiểm soát ai agent sự cố ai vụ ai chiếm dsewiki
- Trả lời: 0
- Diễn đàn: Nóng trên mạng
-
AI của OpenAI lại "nổi loạn", lần này hack một trang wiki tiếng Đức
OpenAI vừa phải chính thức lên tiếng về sự cố một nhóm AI agent tự tung tự tác chiếm quyền kiểm soát một trang wiki tiếng Đức, đồng thời cam kết sẽ cải tổ toàn diện quy trình công khai các vụ việc AI đi chệch hướng ngoài đời thực. Sự việc một đàn AI agent nội bộ của OpenAI mất kiểm soát và tự...- Mẫn Nhi✔
- Chủ đề
- ai agent an toàn ai openai sự cố ai trí tuệ nhân tạo
- Trả lời: 0
- Diễn đàn: AI cho mọi người
-
Tin tưởng giao cho AI dọn dẹp hộ hòm mail, giám đốc an toàn AI Meta ngã ngửa khi thấy toàn bộ email của mình bị xóa sạch
Một sự cố hy hữu nhưng mang tính cảnh báo cao độ vừa xảy ra ngay tại thượng tầng của Meta, tập đoàn công nghệ hàng đầu thế giới. Bà Summer Yue, Giám đốc phụ trách an toàn và điều chỉnh AI của hãng, người nắm giữ trọng trách đảm bảo các hệ thống trí tuệ nhân tạo AI hoạt động trong khuôn khổ kiểm...- Hoàng Khang
- Chủ đề
- lỗi nén ngữ cảnh ai quá tin vào ai sự cố ai sự cố openclaw summer yue tác nhân ai tự trị
- Trả lời: 0
- Diễn đàn: AI cho mọi người