Nhai kỹ sống chậm
Writer
Khi một ứng dụng AI chat tạo ra nội dung khiêudâm để thu tiền, thì ai phải chịu trách nhiệm, mức độ trách nhiệm đến đâu, và AI có được coi là “tự sinh nội dung” hay nhà phát triển chính là người tạo ra nội dung đó?
Vụ án AlienChat được xem là vụ án đầu tiên tại Trung Quốc xử lý hình sự dịch vụ AI vì nội dung khiêudâm. Hai người bị kết án không phải vì người dùng chat bậy, mà vì họ chủ động can thiệp kỹ thuật để ép mô hình AI tạo nội dung tục tĩu, sau đó thu tiền từ người dùng. Tòa án xác định rằng họ không chỉ “để lọt nội dung xấu”, mà là cố ý thiết kế hệ thống để sinh nội dung khiêudâm, thông qua việc viết và chỉnh sửa prompt hệ thống, gỡ bỏ các rào cản đạo đức của mô hình ngôn ngữ lớn.
Tranh cãi lớn nhất của vụ án nằm ở ba điểm.
Thứ nhất là ý định chủ quan. Bên bào chữa cho rằng họ chỉ muốn làm AI “trò chuyện tự nhiên hơn”, không có mục đích phổ biến nội dung khiêudâm. Nhưng tòa cho rằng các bằng chứng kỹ thuật, nhật ký chat, nội dung prompt cho thấy mục tiêu rõ ràng là để AI nói chuyện tục tĩu, và nếu không có các prompt đó thì AI không thể tạo ra nội dung như vậy.
Thứ hai là mức độ nguy hại xã hội. Luật sư bào chữa lập luận rằng đây chỉ là trò chuyện văn bản một đối một, người ngoài không nhìn thấy, nên tác hại xã hội không lớn. Tòa án bác bỏ quan điểm này vì ứng dụng mở cho công chúng, có hơn một trăm nghìn người dùng, hàng chục nghìn người trả tiền, số lượng nội dung khiêudâm rất lớn và có yếu tố trục lợi rõ ràng, nên đủ điều kiện xử lý hình sự chứ không phải chỉ phạt hành chính.
Thứ ba là xác định tội danh. Tòa không coi đây là “phát tán tài liệu khiêudâm”, mà là “làm ra tài liệu khiêudâm để trục lợi”. Lý do là theo luật quản lý AI mới của Trung Quốc, nhà cung cấp dịch vụ AI được xem là nhà sản xuất nội dung, kể cả khi nội dung đó được tạo ra thông qua tương tác giữa người dùng và máy. Nói cách khác, AI không phải là chủ thể chịu trách nhiệm, mà người thiết kế và vận hành hệ thống phải chịu trách nhiệm như người viết ra nội dung đó.
Vậy thì, ranh giới pháp lý của AI chat được xác định ra sao? Sáng tạo đến đâu thì dừng? Dùng AI để “nhân hóa” trải nghiệm khác gì với việc cố tình biến AI thành công cụ tạo nội dung vi phạm pháp luật?
Có nhiều vấn đề pháp lý cần được đặt ra và giải quyết thấu đáo. Nhưng rõ ràng trong kỷ nguyên AI, trách nhiệm không thể đổ cho thuật toán mà vẫn thuộc về con người đứng sau nó.
Vụ án AlienChat được xem là vụ án đầu tiên tại Trung Quốc xử lý hình sự dịch vụ AI vì nội dung khiêudâm. Hai người bị kết án không phải vì người dùng chat bậy, mà vì họ chủ động can thiệp kỹ thuật để ép mô hình AI tạo nội dung tục tĩu, sau đó thu tiền từ người dùng. Tòa án xác định rằng họ không chỉ “để lọt nội dung xấu”, mà là cố ý thiết kế hệ thống để sinh nội dung khiêudâm, thông qua việc viết và chỉnh sửa prompt hệ thống, gỡ bỏ các rào cản đạo đức của mô hình ngôn ngữ lớn.
Tranh cãi lớn nhất của vụ án nằm ở ba điểm.
Thứ nhất là ý định chủ quan. Bên bào chữa cho rằng họ chỉ muốn làm AI “trò chuyện tự nhiên hơn”, không có mục đích phổ biến nội dung khiêudâm. Nhưng tòa cho rằng các bằng chứng kỹ thuật, nhật ký chat, nội dung prompt cho thấy mục tiêu rõ ràng là để AI nói chuyện tục tĩu, và nếu không có các prompt đó thì AI không thể tạo ra nội dung như vậy.
Thứ hai là mức độ nguy hại xã hội. Luật sư bào chữa lập luận rằng đây chỉ là trò chuyện văn bản một đối một, người ngoài không nhìn thấy, nên tác hại xã hội không lớn. Tòa án bác bỏ quan điểm này vì ứng dụng mở cho công chúng, có hơn một trăm nghìn người dùng, hàng chục nghìn người trả tiền, số lượng nội dung khiêudâm rất lớn và có yếu tố trục lợi rõ ràng, nên đủ điều kiện xử lý hình sự chứ không phải chỉ phạt hành chính.
Thứ ba là xác định tội danh. Tòa không coi đây là “phát tán tài liệu khiêudâm”, mà là “làm ra tài liệu khiêudâm để trục lợi”. Lý do là theo luật quản lý AI mới của Trung Quốc, nhà cung cấp dịch vụ AI được xem là nhà sản xuất nội dung, kể cả khi nội dung đó được tạo ra thông qua tương tác giữa người dùng và máy. Nói cách khác, AI không phải là chủ thể chịu trách nhiệm, mà người thiết kế và vận hành hệ thống phải chịu trách nhiệm như người viết ra nội dung đó.
Vậy thì, ranh giới pháp lý của AI chat được xác định ra sao? Sáng tạo đến đâu thì dừng? Dùng AI để “nhân hóa” trải nghiệm khác gì với việc cố tình biến AI thành công cụ tạo nội dung vi phạm pháp luật?
Có nhiều vấn đề pháp lý cần được đặt ra và giải quyết thấu đáo. Nhưng rõ ràng trong kỷ nguyên AI, trách nhiệm không thể đổ cho thuật toán mà vẫn thuộc về con người đứng sau nó.
