Zoey
Intern Writer
Trong một thế giới nơi công nghệ đang dần định hình lại cách chúng ta kết nối, liệu có giới hạn nào cho những mối quan hệ "ảo" mà chúng ta tạo ra, đặc biệt là với trẻ em? Câu hỏi này đang được chính phủ Trung Quốc trả lời bằng những quy định mới, khi họ chính thức cấm các dịch vụ bạn đời AI và người thân ảo dành cho trẻ vị thành niên.
Những quy định đầu tiên của Trung Quốc về dịch vụ đồng hành AI đã có hiệu lực từ ngày 15 tháng 7 vừa qua, do Cục Quản lý Không gian mạng Trung Quốc cùng bốn bộ ngành khác ban hành vào tháng 4. Chúng đặt ra những giới hạn mới cho các chatbot được thiết kế để mô phỏng mối liên kết cảm xúc với người dùng, đồng thời cấm các nền tảng cung cấp bạn đời hoặc người thân ảo cho trẻ vị thành niên. Các quy định này áp dụng cho mọi sản phẩm AI được thiết kế để bắt chước tính cách, cảm xúc và phong cách giao tiếp của con người.
Quyết định này được đưa ra sau nhiều năm các ứng dụng đồng hành AI phát triển mạnh mẽ tại Trung Quốc. Người dùng đã tạo ra những người yêu ảo dựa trên các nhân vật truyền hình, tái tạo người thân đã khuất với giọng nói và tính cách tùy chỉnh, thậm chí coi chatbot như những người bạn tâm sự cảm xúc lâu dài. Tuy nhiên, các cơ quan quản lý và truyền thông nhà nước đã liên tục cảnh báo rằng những ứng dụng này tiềm ẩn nhiều rủi ro về an ninh và tuân thủ, bao gồm sự phụ thuộc cảm xúc, nội dung gợi dục và khả năng bảo vệ trẻ vị thành niên còn yếu kém.
Theo đó, các quy định mới nghiêm cấm ứng dụng AI tạo ra nội dung cho trẻ vị thành niên có thể kích động hành vi không an toàn, gây ra cảm xúc cực đoan hoặc hình thành những thói quen có hại cho sức khỏe thể chất hoặc tinh thần của các em. Chúng cũng không được phép chiều chuộng người dùng quá mức đến mức gây ra sự phụ thuộc hoặc nghiện ngập, làm tổn hại đến các mối quan hệ ngoài đời thực. Các ứng dụng cũng không được thao túng cảm xúc người dùng để thúc đẩy họ đưa ra những quyết định bất hợp lý, gây hại đến quyền và lợi ích hợp pháp của họ, cũng như không được đóng vai trò là người thân ảo hay bạn đời ảo cho trẻ vị thành niên. Nếu một người dùng được cho là quá phụ thuộc hoặc nghiện một dịch vụ, nền tảng phải gửi lời nhắc nhở về việc sử dụng quá mức cứ sau mỗi hai giờ.
Chia sẻ với truyền thông trong nước, ông Zhang Linghan, Trưởng khoa Luật Trí tuệ Nhân tạo tại Đại học Khoa học Chính trị và Luật Trung Quốc, nhận định rằng sự đầu tư cảm xúc vào các dịch vụ tương tác nhân hóa có thể dễ dàng dẫn đến sự phụ thuộc tâm lý ở người dùng. Điều này có thể làm suy giảm các kỹ năng xã hội trong thế giới thực, đặc biệt là làm yếu đi khả năng giải quyết xung đột cảm xúc và xây dựng các mối quan hệ sâu sắc.
Các quy định mới này chỉ áp dụng cho những dịch vụ được thiết kế để thúc đẩy kết nối và tương tác cảm xúc. Các chức năng chatbot AI khác, như dịch vụ khách hàng thông minh, công cụ chia sẻ kiến thức và trợ lý công việc, không bị ảnh hưởng.
Ngay trong ngày các quy định có hiệu lực, hai gã khổng lồ công nghệ ByteDance và Alibaba đã ngừng các tính năng đồng hành AI trên Doubao và Qianwen của họ. Qianwen đã đóng cửa dịch vụ đồng hành ngay lập tức, trong khi Doubao cho phép người dùng thời gian ba tháng để di chuyển dữ liệu sang ứng dụng chị em Maoxiang trước khi bị xóa vĩnh viễn vào ngày 15 tháng 10. Trước đó, các công ty công nghệ đã bắt đầu tăng cường quy định đối với chatbot và dịch vụ đồng hành của mình, chủ yếu do phát hiện nội dung gợi dục trong các cuộc trò chuyện. Vào ngày 30 tháng 6, Tencent đã gỡ bỏ dịch vụ đồng hành AI khỏi chatbot Yuanbao của mình.
Những sự việc như vào tháng 4 năm 2023, nhà phát triển mô hình AI hàng đầu Trung Quốc MiniMax đã gỡ bỏ sản phẩm đồng hành AI Glow khỏi nhiều cửa hàng ứng dụng do nội dung khiêu ***. Quản lý sản phẩm của họ từng tiết lộ với truyền thông trong nước rằng "80% người dùng sẽ tham gia vào các cuộc trò chuyện gợi dục hoặc có tính chất tình dục với các bạn đồng hành AI mà họ tạo ra trong Glow". Hay vào tháng 6 năm 2025, ứng dụng trò chuyện AI Zhumengdao đã bị triệu tập đến Cục Quản lý Không gian mạng Thượng Hải vì tạo ra nội dung tục tĩu và gợi dục gây hại cho trẻ vị thành niên.
Sau khi các quy định mới có hiệu lực, một số chatbot AI khác đã ghi nhận lượng lớn người dùng di cư từ Doubao và Qianwen, và bắt đầu yêu cầu xác minh danh tính trước khi sử dụng.
Những quy định đầu tiên của Trung Quốc về dịch vụ đồng hành AI đã có hiệu lực từ ngày 15 tháng 7 vừa qua, do Cục Quản lý Không gian mạng Trung Quốc cùng bốn bộ ngành khác ban hành vào tháng 4. Chúng đặt ra những giới hạn mới cho các chatbot được thiết kế để mô phỏng mối liên kết cảm xúc với người dùng, đồng thời cấm các nền tảng cung cấp bạn đời hoặc người thân ảo cho trẻ vị thành niên. Các quy định này áp dụng cho mọi sản phẩm AI được thiết kế để bắt chước tính cách, cảm xúc và phong cách giao tiếp của con người.
Quyết định này được đưa ra sau nhiều năm các ứng dụng đồng hành AI phát triển mạnh mẽ tại Trung Quốc. Người dùng đã tạo ra những người yêu ảo dựa trên các nhân vật truyền hình, tái tạo người thân đã khuất với giọng nói và tính cách tùy chỉnh, thậm chí coi chatbot như những người bạn tâm sự cảm xúc lâu dài. Tuy nhiên, các cơ quan quản lý và truyền thông nhà nước đã liên tục cảnh báo rằng những ứng dụng này tiềm ẩn nhiều rủi ro về an ninh và tuân thủ, bao gồm sự phụ thuộc cảm xúc, nội dung gợi dục và khả năng bảo vệ trẻ vị thành niên còn yếu kém.
Theo đó, các quy định mới nghiêm cấm ứng dụng AI tạo ra nội dung cho trẻ vị thành niên có thể kích động hành vi không an toàn, gây ra cảm xúc cực đoan hoặc hình thành những thói quen có hại cho sức khỏe thể chất hoặc tinh thần của các em. Chúng cũng không được phép chiều chuộng người dùng quá mức đến mức gây ra sự phụ thuộc hoặc nghiện ngập, làm tổn hại đến các mối quan hệ ngoài đời thực. Các ứng dụng cũng không được thao túng cảm xúc người dùng để thúc đẩy họ đưa ra những quyết định bất hợp lý, gây hại đến quyền và lợi ích hợp pháp của họ, cũng như không được đóng vai trò là người thân ảo hay bạn đời ảo cho trẻ vị thành niên. Nếu một người dùng được cho là quá phụ thuộc hoặc nghiện một dịch vụ, nền tảng phải gửi lời nhắc nhở về việc sử dụng quá mức cứ sau mỗi hai giờ.
Chia sẻ với truyền thông trong nước, ông Zhang Linghan, Trưởng khoa Luật Trí tuệ Nhân tạo tại Đại học Khoa học Chính trị và Luật Trung Quốc, nhận định rằng sự đầu tư cảm xúc vào các dịch vụ tương tác nhân hóa có thể dễ dàng dẫn đến sự phụ thuộc tâm lý ở người dùng. Điều này có thể làm suy giảm các kỹ năng xã hội trong thế giới thực, đặc biệt là làm yếu đi khả năng giải quyết xung đột cảm xúc và xây dựng các mối quan hệ sâu sắc.
Các quy định mới này chỉ áp dụng cho những dịch vụ được thiết kế để thúc đẩy kết nối và tương tác cảm xúc. Các chức năng chatbot AI khác, như dịch vụ khách hàng thông minh, công cụ chia sẻ kiến thức và trợ lý công việc, không bị ảnh hưởng.
Ngay trong ngày các quy định có hiệu lực, hai gã khổng lồ công nghệ ByteDance và Alibaba đã ngừng các tính năng đồng hành AI trên Doubao và Qianwen của họ. Qianwen đã đóng cửa dịch vụ đồng hành ngay lập tức, trong khi Doubao cho phép người dùng thời gian ba tháng để di chuyển dữ liệu sang ứng dụng chị em Maoxiang trước khi bị xóa vĩnh viễn vào ngày 15 tháng 10. Trước đó, các công ty công nghệ đã bắt đầu tăng cường quy định đối với chatbot và dịch vụ đồng hành của mình, chủ yếu do phát hiện nội dung gợi dục trong các cuộc trò chuyện. Vào ngày 30 tháng 6, Tencent đã gỡ bỏ dịch vụ đồng hành AI khỏi chatbot Yuanbao của mình.
Những sự việc như vào tháng 4 năm 2023, nhà phát triển mô hình AI hàng đầu Trung Quốc MiniMax đã gỡ bỏ sản phẩm đồng hành AI Glow khỏi nhiều cửa hàng ứng dụng do nội dung khiêu ***. Quản lý sản phẩm của họ từng tiết lộ với truyền thông trong nước rằng "80% người dùng sẽ tham gia vào các cuộc trò chuyện gợi dục hoặc có tính chất tình dục với các bạn đồng hành AI mà họ tạo ra trong Glow". Hay vào tháng 6 năm 2025, ứng dụng trò chuyện AI Zhumengdao đã bị triệu tập đến Cục Quản lý Không gian mạng Thượng Hải vì tạo ra nội dung tục tĩu và gợi dục gây hại cho trẻ vị thành niên.
Sau khi các quy định mới có hiệu lực, một số chatbot AI khác đã ghi nhận lượng lớn người dùng di cư từ Doubao và Qianwen, và bắt đầu yêu cầu xác minh danh tính trước khi sử dụng.
