Ngọc Yến✔
Writer
Darren Zhou, 25 tuổi, từng là chuyên viên phân tích tài chính tại Goldman Sachs, đã bị bắt sau khi OpenAI phát hiện những nội dung đe dọa nghiêm trọng mà anh ta viết trong các cuộc trò chuyện với ChatGPT và báo cho FBI.
Câu chuyện bắt đầu vào tháng 03/2026, khi Zhou tìm đến ChatGPT sau khi chia tay bạn gái khoảng 6 tháng. Ban đầu, anh ta chỉ tâm sự về tình cảm và mong muốn quay lại. Nhưng cuộc trò chuyện nhanh chóng chuyển hướng. Zhou bắt đầu mô tả nơi bạn gái cũ thường lui tới, những người đàn ông xung quanh cô và thể hiện sự ghen tuông. Sau đó, anh ta viết rằng sẽ giết cô trước cuối tháng và nếu không thể có được cô thì không ai khác có được cô. Theo hồ sơ vụ án, Zhou còn mô tả kế hoạch chờ bạn gái tại bãi đỗ xe phòng tập, giả vờ cầu hôn để nối lại quan hệ, rồi dùng súng giết cô và ****** nếu bị từ chối.
Không dừng ở những lời nói trong chatbot, Zhou còn có những hành động bên ngoài cuộc trò chuyện khiến nguy cơ trở nên nghiêm trọng hơn. Hồ sơ cho thấy anh ta từng gửi cho bạn gái cũ một tin nhắn đe dọa, trong đó có địa chỉ của cô. Các nhà điều tra sau đó xác định những lời đe dọa của Zhou đủ nghiêm trọng để xử lý hình sự.
Điểm đặc biệt của vụ án nằm ở vai trò của ChatGPT. Theo chính sách của OpenAI, khi hệ thống phát hiện dấu hiệu cho thấy người dùng có thể đang lên kế hoạch gây hại cho người khác, một nhóm nhân viên có thể xem xét cuộc trò chuyện. Trong những trường hợp được đánh giá là nguy hiểm và nghiêm trọng, công ty có thể cung cấp thông tin cho cơ quan thực thi pháp luật. Trong trường hợp của Zhou, cuộc trò chuyện đã được chuyển sang quá trình xem xét của con người và sau đó OpenAI gửi cảnh báo cho FBI. Zhou bị bắt vào tháng 05 và Goldman Sachs chấm dứt việc làm của anh ta vào tháng 06.
Ngày 13/08, Zhou nhận tội theo thỏa thuận với công tố viên. Thay vì phải chịu mức án tù rất dài theo các cáo buộc ban đầu, anh ta nhận án quản chế 5 năm theo các nguồn tin về phán quyết, cùng những điều kiện giám sát nghiêm ngặt.
Điều khiến vụ việc được quan tâm không chỉ là câu chuyện về một người lên kế hoạch phạm tội. Nó còn cho thấy một thực tế mới: AI không hoàn toàn là một cuốn nhật ký riêng tư. Người dùng có thể cảm thấy mình đang nói chuyện với một cỗ máy vô cảm, nhưng phía sau hệ thống còn có các cơ chế an toàn, nhân viên kiểm duyệt và những quy định về việc xử lý nội dung nguy hiểm.
Ở góc độ an toàn, việc OpenAI phát hiện và báo cáo trường hợp này có thể đã giúp ngăn chặn một vụ bạo lực nghiêm trọng. Nhưng ở góc độ quyền riêng tư, câu hỏi khó hơn cũng xuất hiện: một cuộc trò chuyện với AI được bảo mật đến đâu, khi nào công ty được phép xem xét nội dung và tiêu chuẩn nào được dùng để quyết định lúc nào phải báo cảnh sát?
Vì thế, vụ Darren Zhou có lẽ không phải câu chuyện về việc "AI đã thức tỉnh và tố giác con người". Chính xác hơn, AI đang trở thành một hệ thống có khả năng phát hiện rủi ro, còn quyết định can thiệp vẫn nằm trong những quy tắc do con người đặt ra. Thành công của cơ chế này sẽ được đo bằng khả năng ngăn chặn những nguy cơ thực sự mà không biến mọi lời tâm sự riêng tư thành đối tượng giám sát.
Đó mới là ranh giới mà xã hội sẽ phải tranh luận ngày càng nhiều khi AI trở thành nơi con người tìm đến để nói ra những điều họ không muốn nói với bất kỳ ai khác.
Câu chuyện bắt đầu vào tháng 03/2026, khi Zhou tìm đến ChatGPT sau khi chia tay bạn gái khoảng 6 tháng. Ban đầu, anh ta chỉ tâm sự về tình cảm và mong muốn quay lại. Nhưng cuộc trò chuyện nhanh chóng chuyển hướng. Zhou bắt đầu mô tả nơi bạn gái cũ thường lui tới, những người đàn ông xung quanh cô và thể hiện sự ghen tuông. Sau đó, anh ta viết rằng sẽ giết cô trước cuối tháng và nếu không thể có được cô thì không ai khác có được cô. Theo hồ sơ vụ án, Zhou còn mô tả kế hoạch chờ bạn gái tại bãi đỗ xe phòng tập, giả vờ cầu hôn để nối lại quan hệ, rồi dùng súng giết cô và ****** nếu bị từ chối.
Không dừng ở những lời nói trong chatbot, Zhou còn có những hành động bên ngoài cuộc trò chuyện khiến nguy cơ trở nên nghiêm trọng hơn. Hồ sơ cho thấy anh ta từng gửi cho bạn gái cũ một tin nhắn đe dọa, trong đó có địa chỉ của cô. Các nhà điều tra sau đó xác định những lời đe dọa của Zhou đủ nghiêm trọng để xử lý hình sự.
Điểm đặc biệt của vụ án nằm ở vai trò của ChatGPT. Theo chính sách của OpenAI, khi hệ thống phát hiện dấu hiệu cho thấy người dùng có thể đang lên kế hoạch gây hại cho người khác, một nhóm nhân viên có thể xem xét cuộc trò chuyện. Trong những trường hợp được đánh giá là nguy hiểm và nghiêm trọng, công ty có thể cung cấp thông tin cho cơ quan thực thi pháp luật. Trong trường hợp của Zhou, cuộc trò chuyện đã được chuyển sang quá trình xem xét của con người và sau đó OpenAI gửi cảnh báo cho FBI. Zhou bị bắt vào tháng 05 và Goldman Sachs chấm dứt việc làm của anh ta vào tháng 06.
Ngày 13/08, Zhou nhận tội theo thỏa thuận với công tố viên. Thay vì phải chịu mức án tù rất dài theo các cáo buộc ban đầu, anh ta nhận án quản chế 5 năm theo các nguồn tin về phán quyết, cùng những điều kiện giám sát nghiêm ngặt.
Điều khiến vụ việc được quan tâm không chỉ là câu chuyện về một người lên kế hoạch phạm tội. Nó còn cho thấy một thực tế mới: AI không hoàn toàn là một cuốn nhật ký riêng tư. Người dùng có thể cảm thấy mình đang nói chuyện với một cỗ máy vô cảm, nhưng phía sau hệ thống còn có các cơ chế an toàn, nhân viên kiểm duyệt và những quy định về việc xử lý nội dung nguy hiểm.
Ở góc độ an toàn, việc OpenAI phát hiện và báo cáo trường hợp này có thể đã giúp ngăn chặn một vụ bạo lực nghiêm trọng. Nhưng ở góc độ quyền riêng tư, câu hỏi khó hơn cũng xuất hiện: một cuộc trò chuyện với AI được bảo mật đến đâu, khi nào công ty được phép xem xét nội dung và tiêu chuẩn nào được dùng để quyết định lúc nào phải báo cảnh sát?
Vì thế, vụ Darren Zhou có lẽ không phải câu chuyện về việc "AI đã thức tỉnh và tố giác con người". Chính xác hơn, AI đang trở thành một hệ thống có khả năng phát hiện rủi ro, còn quyết định can thiệp vẫn nằm trong những quy tắc do con người đặt ra. Thành công của cơ chế này sẽ được đo bằng khả năng ngăn chặn những nguy cơ thực sự mà không biến mọi lời tâm sự riêng tư thành đối tượng giám sát.
Đó mới là ranh giới mà xã hội sẽ phải tranh luận ngày càng nhiều khi AI trở thành nơi con người tìm đến để nói ra những điều họ không muốn nói với bất kỳ ai khác.
