Homelander The Seven
I will laser every f****** one of you!
Phiên bản mới nhất của mô hình AI tạo video "Sora 2" của OpenAI đã được phát hành và chất lượng của nó khiến nhiều người kinh ngạc. Nhiều video công bố có thể dễ dàng bị nhầm lẫn với cảnh quay thực tế nếu không có watermark. Trong khi đó, Trung Quốc đang nỗ lực phát triển các mô hình ngôn ngữ lớn (LLM) và AI tạo sinh của riêng mình để không thua kém các nước phương Tây. Hơn nữa, Trung Quốc còn quy định bắt buộc gắn nhãn cho nội dung do AI tạo ra để chỉ rõ nguồn gốc của chúng. Quy định này không chỉ áp dụng cho video và hình ảnh mà còn mở rộng sang cả âm thanh và văn bản. Mặc dù quy định này có hiệu lực vào ngày 1/9, nhưng các nhà điều hành nền tảng đã phải hoàn tất việc thích ứng hệ thống của mình trước đó.
Trong bối cảnh này, một phán quyết của tòa án liên quan đến AI tạo sinh vào tháng 7 đã thu hút sự chú ý. Sự việc bắt đầu khi một người dùng mạng tên Lý đăng tải một đoạn văn bản với nội dung "Làm thêm không giúp kiếm được nhiều tiền nhưng có thể mở ra những góc nhìn mới". Phản ứng lại, thuật toán của nền tảng đã đánh giá đây là nội dung do AI viết, chặn bài đăng và đình chỉ tài khoản của người dùng trong một ngày. Người dùng Lý đã khiếu nại quyết định này và khởi kiện lên Tòa án Internet Bắc Kinh, yêu cầu hủy bỏ hình phạt và xóa bỏ mọi ghi nhận vi phạm. Phía nền tảng lập luận rằng họ có quyền tự động kiểm tra xem nội dung có phải do AI tạo hay không, thuật toán của họ đã xác định rằng bài đăng "rõ ràng thiếu các đặc điểm cảm xúc của con người" do đó hành động của họ là chính đáng.
Đáp lại, Tòa án Internet Bắc Kinh đã phán quyết rằng "nền tảng đã vi phạm hợp đồng, do đó phải hủy bỏ hình phạt chặn bài đăng và đình chỉ tài khoản, đồng thời khôi phục dữ liệu gốc." Tòa án thừa nhận rằng nền tảng có trách nhiệm nhận dạng và quản lý nội dung AI theo chính sách của chính phủ, nhưng cũng chỉ ra rằng các tiêu chí của họ mang tính chủ quan cao và khó thuyết phục công chúng. Tòa án nhấn mạnh rằng "các đặc điểm cảm xúc rất rõ ràng của con người có thể nhìn thấy trong nội dung" không nên là tiêu chí duy nhất để thuật toán đưa ra quyết định mà không cần xem xét thủ công. Tòa án cũng nêu rõ rằng, mặc dù nền tảng có nghĩa vụ nhận dạng và quản lý nội dung AI, nhưng quy trình vận hành cụ thể và quyết định của thuật toán phải có khả năng truy xuất nguồn gốc, và nền tảng phải có khả năng giải thích hợp lý lý do thuật toán đưa ra phán đoán nội dung là do AI tạo. Trong trường hợp người tạo nội dung gặp khó khăn trong việc chứng minh rằng họ là người tạo ra nó, trách nhiệm chứng minh bằng cách giải thích rõ ràng cơ sở của thuật toán sẽ chuyển sang phía nền tảng.
Nói cách khác, nếu người dùng khó đưa ra bằng chứng riêng, nền tảng cần chủ động giải thích hoặc cung cấp bằng chứng về cơ sở của thuật toán để tránh những phán quyết sai lầm. Phán quyết tư pháp này cho thấy các nền tảng không được phép biến thuật toán của mình thành một hộp đen. Hơn nữa, tòa án còn gợi ý rằng trong tương lai, việc phân bổ trách nhiệm chứng minh thích hợp và tăng cường tính minh bạch của thuật toán nền tảng sẽ trở thành lĩnh vực cốt lõi trong quản lý và kiểm duyệt nội dung của nền tảng AI quốc gia. Điều này cũng ngụ ý người tạo nội dung cũng là một trong những đối tượng được phân bổ trách nhiệm. Nếu nội dung bị nghi ngờ do AI tạo ra, họ nên lưu giữ bằng chứng để có thể giải thích.
Ngay cả khi phán quyết này thúc đẩy việc làm minh bạch các thuật toán của nền tảng, nó cũng làm nổi bật nguy cơ nội dung do con người tạo ra có thể bị nhầm lẫn là do AI tạo ra (dù không có watermark hay dấu hiệu nào khác), dẫn đến việc nội dung hoặc tài khoản bị xóa đột ngột. Tờ Beijing News của Trung Quốc đã đưa ra ví dụ về một kịch bản được viết trong thời gian dài bị nhầm lẫn là do AI tạo ra, giới thiệu về tình thế khó xử của những người sáng tạo khi tác phẩm của họ bị nền tảng nhận định sai là do AI tạo, dẫn đến việc bị hạn chế hoặc xóa khỏi nền tảng. Theo thời gian, độ chính xác của các thuật toán nhận dạng AI của mỗi nền tảng chắc chắn sẽ được cải thiện. Tuy nhiên, nếu quy trình cứu trợ dữ liệu trong trường hợp xảy ra các trường hợp "án oan" hoặc phán quyết không công bằng không được cải thiện, những người sáng tạo sẽ không thể yên tâm làm việc.
Trong bối cảnh này, một phán quyết của tòa án liên quan đến AI tạo sinh vào tháng 7 đã thu hút sự chú ý. Sự việc bắt đầu khi một người dùng mạng tên Lý đăng tải một đoạn văn bản với nội dung "Làm thêm không giúp kiếm được nhiều tiền nhưng có thể mở ra những góc nhìn mới". Phản ứng lại, thuật toán của nền tảng đã đánh giá đây là nội dung do AI viết, chặn bài đăng và đình chỉ tài khoản của người dùng trong một ngày. Người dùng Lý đã khiếu nại quyết định này và khởi kiện lên Tòa án Internet Bắc Kinh, yêu cầu hủy bỏ hình phạt và xóa bỏ mọi ghi nhận vi phạm. Phía nền tảng lập luận rằng họ có quyền tự động kiểm tra xem nội dung có phải do AI tạo hay không, thuật toán của họ đã xác định rằng bài đăng "rõ ràng thiếu các đặc điểm cảm xúc của con người" do đó hành động của họ là chính đáng.
Đáp lại, Tòa án Internet Bắc Kinh đã phán quyết rằng "nền tảng đã vi phạm hợp đồng, do đó phải hủy bỏ hình phạt chặn bài đăng và đình chỉ tài khoản, đồng thời khôi phục dữ liệu gốc." Tòa án thừa nhận rằng nền tảng có trách nhiệm nhận dạng và quản lý nội dung AI theo chính sách của chính phủ, nhưng cũng chỉ ra rằng các tiêu chí của họ mang tính chủ quan cao và khó thuyết phục công chúng. Tòa án nhấn mạnh rằng "các đặc điểm cảm xúc rất rõ ràng của con người có thể nhìn thấy trong nội dung" không nên là tiêu chí duy nhất để thuật toán đưa ra quyết định mà không cần xem xét thủ công. Tòa án cũng nêu rõ rằng, mặc dù nền tảng có nghĩa vụ nhận dạng và quản lý nội dung AI, nhưng quy trình vận hành cụ thể và quyết định của thuật toán phải có khả năng truy xuất nguồn gốc, và nền tảng phải có khả năng giải thích hợp lý lý do thuật toán đưa ra phán đoán nội dung là do AI tạo. Trong trường hợp người tạo nội dung gặp khó khăn trong việc chứng minh rằng họ là người tạo ra nó, trách nhiệm chứng minh bằng cách giải thích rõ ràng cơ sở của thuật toán sẽ chuyển sang phía nền tảng.
Nói cách khác, nếu người dùng khó đưa ra bằng chứng riêng, nền tảng cần chủ động giải thích hoặc cung cấp bằng chứng về cơ sở của thuật toán để tránh những phán quyết sai lầm. Phán quyết tư pháp này cho thấy các nền tảng không được phép biến thuật toán của mình thành một hộp đen. Hơn nữa, tòa án còn gợi ý rằng trong tương lai, việc phân bổ trách nhiệm chứng minh thích hợp và tăng cường tính minh bạch của thuật toán nền tảng sẽ trở thành lĩnh vực cốt lõi trong quản lý và kiểm duyệt nội dung của nền tảng AI quốc gia. Điều này cũng ngụ ý người tạo nội dung cũng là một trong những đối tượng được phân bổ trách nhiệm. Nếu nội dung bị nghi ngờ do AI tạo ra, họ nên lưu giữ bằng chứng để có thể giải thích.
Ngay cả khi phán quyết này thúc đẩy việc làm minh bạch các thuật toán của nền tảng, nó cũng làm nổi bật nguy cơ nội dung do con người tạo ra có thể bị nhầm lẫn là do AI tạo ra (dù không có watermark hay dấu hiệu nào khác), dẫn đến việc nội dung hoặc tài khoản bị xóa đột ngột. Tờ Beijing News của Trung Quốc đã đưa ra ví dụ về một kịch bản được viết trong thời gian dài bị nhầm lẫn là do AI tạo ra, giới thiệu về tình thế khó xử của những người sáng tạo khi tác phẩm của họ bị nền tảng nhận định sai là do AI tạo, dẫn đến việc bị hạn chế hoặc xóa khỏi nền tảng. Theo thời gian, độ chính xác của các thuật toán nhận dạng AI của mỗi nền tảng chắc chắn sẽ được cải thiện. Tuy nhiên, nếu quy trình cứu trợ dữ liệu trong trường hợp xảy ra các trường hợp "án oan" hoặc phán quyết không công bằng không được cải thiện, những người sáng tạo sẽ không thể yên tâm làm việc.
