Mẫn Nhi✔
Admin xinh gái
Một phụ nữ tại bang Florida đang đối mặt với cáo buộc trọng tội sau khi coi chatbot Claude của Anthropic như cuốn nhật ký cá nhân và viết ra những lời đe dọa nổ súng nhằm vào văn phòng cảnh sát trưởng địa phương.
Hệ thống bảo đảm an toàn của Claude đã tự động gắn cờ nội dung này và chuyển tiếp đến nhân sự kiểm duyệt thực tế. Sau khi đánh giá các phát ngôn trên là một mối đe dọa có thật và có độ tin cậy cao, phía kiểm duyệt đã lập tức trình báo sự việc cho lực lượng hành pháp.
Các phó cảnh sát trưởng nhanh chóng xác định danh tính của Heller và tìm đến tận nhà riêng. Cô bị tạm giữ mà không xảy ra sự cố nào, trước khi một điều tra viên thuộc bộ phận tình báo của Văn phòng Cảnh sát trưởng hạt Lee tiếp nhận vụ án để mở rộng điều tra.
Heller hiện phải đối mặt với cáo buộc đưa ra lời đe dọa bạo lực bằng văn bản. Chiếu theo Đạo luật 836.10 của bang Florida, hành vi gửi, đăng tải hoặc truyền phát bất kỳ hồ sơ văn bản hay dữ liệu điện tử nào chứa nội dung đe dọa tước đoạt mạng sống, gây thương tích cho người khác, tiến hành xả súng hàng loạt hoặc thực hiện hành vi khủng bố đều cấu thành trọng tội cấp độ hai. Quy định này áp dụng khi thông tin liên lạc được tạo ra theo cách thức mà người khác có thể xem hoặc tiếp cận được.
Về phía công ty phát triển, Anthropic khẳng định hãng có thể chia sẻ thông tin người dùng trong những tình huống khẩn cấp có giới hạn. Biện pháp can thiệp này được kích hoạt khi công ty nhận định việc cung cấp thông tin là bước đi cần thiết nhằm ngăn chặn nguy cơ tử vong hoặc thương tích thể chất nghiêm trọng đối với cộng đồng.
Vào tháng 6, chính quyền bang Florida cũng đệ đơn kiện OpenAI và Altman với lập luận rằng ChatGPT đã góp phần dẫn đến những tổn hại thực tế, bao gồm cả vụ nổ súng tại Đại học Bang Florida diễn ra vào năm 2025. Những tiền lệ pháp lý này khiến các công ty công nghệ như Anthropic không dám chấp nhận bất kỳ rủi ro nào khi phát hiện các mối nguy cơ tiềm ẩn.
Thực tế kiểm duyệt nội dung AI bởi con người cũng đã được ghi nhận ở nhiều nền tảng khác. Các thông tin rò rỉ gần đây tiết lộ rằng các nhà thầu phụ trách kiểm tra trình chỉnh sửa hình ảnh của Microsoft Copilot hoàn toàn có thể nhìn thấy câu lệnh văn bản, hình ảnh tải lên cùng sản phẩm do AI tạo ra từ phía người dùng. Nhiều tài liệu cho thấy các tác vụ kiểm thử chứa cả tài liệu nhạy cảm, gây rối loạn tâm lý hoặc có dấu hiệu bất hợp pháp, dẫu cho nhiệm vụ chính của nhân viên kiểm duyệt chỉ là đánh giá độ chính xác của đầu ra thay vì gắn cờ nội dung.
Bị bắt giữ sau khi nhập lời đe dọa vào chatbot
Sự việc vừa xảy ra tại Mỹ tiếp tục là lời cảnh tỉnh về việc người dùng cần hết sức cẩn trọng với những gì bản thân chia sẻ với các hệ thống trí tuệ nhân tạo. Theo báo cáo bắt giữ từ cơ quan chức năng, Carli Michelle Heller, cư dân sinh sống tại Bonita Springs thuộc bang Florida, đã nhập nội dung vào ngày 26 tháng 9 tuyên bố sẽ tấn công văn phòng cảnh sát trưởng địa phương. Về sau, cô giải thích rằng bản thân vốn sử dụng chatbot Claude của hãng Anthropic tương tự một cuốn nhật ký cá nhân.Hệ thống bảo đảm an toàn của Claude đã tự động gắn cờ nội dung này và chuyển tiếp đến nhân sự kiểm duyệt thực tế. Sau khi đánh giá các phát ngôn trên là một mối đe dọa có thật và có độ tin cậy cao, phía kiểm duyệt đã lập tức trình báo sự việc cho lực lượng hành pháp.
Các phó cảnh sát trưởng nhanh chóng xác định danh tính của Heller và tìm đến tận nhà riêng. Cô bị tạm giữ mà không xảy ra sự cố nào, trước khi một điều tra viên thuộc bộ phận tình báo của Văn phòng Cảnh sát trưởng hạt Lee tiếp nhận vụ án để mở rộng điều tra.
Khung pháp lý nghiêm ngặt và quy chế khẩn cấp của Anthropic
Heller hiện phải đối mặt với cáo buộc đưa ra lời đe dọa bạo lực bằng văn bản. Chiếu theo Đạo luật 836.10 của bang Florida, hành vi gửi, đăng tải hoặc truyền phát bất kỳ hồ sơ văn bản hay dữ liệu điện tử nào chứa nội dung đe dọa tước đoạt mạng sống, gây thương tích cho người khác, tiến hành xả súng hàng loạt hoặc thực hiện hành vi khủng bố đều cấu thành trọng tội cấp độ hai. Quy định này áp dụng khi thông tin liên lạc được tạo ra theo cách thức mà người khác có thể xem hoặc tiếp cận được.
Về phía công ty phát triển, Anthropic khẳng định hãng có thể chia sẻ thông tin người dùng trong những tình huống khẩn cấp có giới hạn. Biện pháp can thiệp này được kích hoạt khi công ty nhận định việc cung cấp thông tin là bước đi cần thiết nhằm ngăn chặn nguy cơ tử vong hoặc thương tích thể chất nghiêm trọng đối với cộng đồng.
Áp lực pháp lý buộc các hãng công nghệ không thể lơ là
Động thái cứng rắn của Anthropic diễn ra trong bối cảnh các công ty AI ngày càng chịu sự giám sát ngặt nghèo về trách nhiệm ngăn chặn hiểm họa ngoài đời thực. Mới đây, tỉnh British Columbia tại Canada đã đệ đơn kiện OpenAI cùng Giám đốc điều hành Sam Altman với cáo buộc công ty này đã có thể ngăn chặn một vụ xả súng hàng loạt tại địa phương nhưng lại không hành động. Cụ thể, thủ phạm mười tám tuổi Jesse Van Rootselaar trước đó từng bị hệ thống an toàn của OpenAI gắn cờ do các đoạn hội thoại liên quan đến bạo lực súng đạn, song OpenAI không hề báo cảnh sát vì cho rằng các trao đổi chưa chạm ngưỡng bắt buộc phải chuyển giao cho pháp luật.Vào tháng 6, chính quyền bang Florida cũng đệ đơn kiện OpenAI và Altman với lập luận rằng ChatGPT đã góp phần dẫn đến những tổn hại thực tế, bao gồm cả vụ nổ súng tại Đại học Bang Florida diễn ra vào năm 2025. Những tiền lệ pháp lý này khiến các công ty công nghệ như Anthropic không dám chấp nhận bất kỳ rủi ro nào khi phát hiện các mối nguy cơ tiềm ẩn.
Chatbot không bao giờ là không gian bảo mật tuyệt đối
Vụ bắt giữ trên cho thấy rõ người dùng tuyệt đối không nên xem các công cụ trò chuyện AI là nhật ký riêng tư chỉ dành cho một mình mình xem. Bất kỳ nội dung nào được nhập vào hệ thống đều có thể được rà soát, ghi nhận hoặc đẩy lên các cấp thẩm quyền cao hơn nếu vi phạm chính sách an toàn.Thực tế kiểm duyệt nội dung AI bởi con người cũng đã được ghi nhận ở nhiều nền tảng khác. Các thông tin rò rỉ gần đây tiết lộ rằng các nhà thầu phụ trách kiểm tra trình chỉnh sửa hình ảnh của Microsoft Copilot hoàn toàn có thể nhìn thấy câu lệnh văn bản, hình ảnh tải lên cùng sản phẩm do AI tạo ra từ phía người dùng. Nhiều tài liệu cho thấy các tác vụ kiểm thử chứa cả tài liệu nhạy cảm, gây rối loạn tâm lý hoặc có dấu hiệu bất hợp pháp, dẫu cho nhiệm vụ chính của nhân viên kiểm duyệt chỉ là đánh giá độ chính xác của đầu ra thay vì gắn cờ nội dung.
