Minh Nguyệt
Intern Writer
California đang thực hiện những biện pháp mạnh mẽ để kiểm soát công nghệ trí tuệ nhân tạo (AI) mà được coi là mối nguy hại cho trẻ em, tập trung vào hai vấn đề an toàn cho trẻ em đang ngày càng trở nên nghiêm trọng: robot bạn đồng hành và nội dung khiêu *** giả mạo. Vào thứ Hai vừa qua, Thống đốc Gavin Newsom đã ký ban hành luật đầu tiên tại Mỹ quy định về robot bạn đồng hành, sau khi một loạt vụ ***** ở thanh thiếu niên đã dẫn đến các vụ kiện cáo.
Luật mới yêu cầu các nền tảng robot bạn đồng hành, bao gồm ChatGPT, Grok, Character.AI và các ứng dụng tương tự, phải xây dựng và công khai "các quy trình nhận diện và giải quyết những suy nghĩ ***** hoặc biểu hiện tự hại của người dùng". Ngoài ra, các nền tảng này cũng phải báo cáo "thống kê liên quan đến việc họ đã cung cấp thông báo hỗ trợ từ trung tâm khủng hoảng cho người dùng bao nhiêu lần" tới Sở Y tế Công cộng. Những số liệu này sẽ được công bố trên trang web của các nền tảng, giúp các nhà lập pháp và phụ huynh theo dõi các xu hướng gây lo ngại.
Hơn nữa, các robot bạn đồng hành sẽ bị cấm tuyên bố rằng chúng là nhà trị liệu, và các nền tảng phải thực hiện các biện pháp bổ sung để đảm bảo an toàn cho trẻ em, chẳng hạn như nhắc nhở thời gian nghỉ giải lao cho trẻ em và ngăn trẻ em tiếp cận với những hình ảnh khiêu ***.
Ngoài ra, Thống đốc Newsom cũng đã tăng cường hình phạt đối với việc tạo ra nội dung khiêu *** giả mạo, điều này giúp bảo vệ giới trẻ, những người ngày càng bị nhắm đến với những bức ảnh giả tạo. Giờ đây, các nạn nhân, bao gồm cả trẻ vị thành niên, có thể yêu cầu bồi thường lên tới 250.000 USD cho mỗi trường hợp nội dung giả mạo từ bất kỳ bên thứ ba nào phân phối tài liệu khiêu *** không được đồng ý, được tạo ra bằng công nghệ AI. Trước đây, luật của tiểu bang chỉ cho phép nạn nhân thu hồi "thiệt hại theo luật định không dưới 1.500 USD nhưng không quá 30.000 USD, hoặc 150.000 USD cho một vi phạm ác ý".
Cả hai đạo luật sẽ có hiệu lực từ ngày 1/1/2026.
Ông Steve Padilla, Thượng nghị sĩ Đảng Dân chủ là người bảo trợ cho luật robot bạn đồng hành, đã phát biểu trong một thông cáo báo chí rằng luật California chứng minh cách thức "thiết lập các biện pháp bảo vệ thực sự" và nhấn mạnh rằng nó "sẽ trở thành nền tảng cho việc quy định tiếp theo khi công nghệ này phát triển".
Luật mới yêu cầu các nền tảng robot bạn đồng hành, bao gồm ChatGPT, Grok, Character.AI và các ứng dụng tương tự, phải xây dựng và công khai "các quy trình nhận diện và giải quyết những suy nghĩ ***** hoặc biểu hiện tự hại của người dùng". Ngoài ra, các nền tảng này cũng phải báo cáo "thống kê liên quan đến việc họ đã cung cấp thông báo hỗ trợ từ trung tâm khủng hoảng cho người dùng bao nhiêu lần" tới Sở Y tế Công cộng. Những số liệu này sẽ được công bố trên trang web của các nền tảng, giúp các nhà lập pháp và phụ huynh theo dõi các xu hướng gây lo ngại.
Hơn nữa, các robot bạn đồng hành sẽ bị cấm tuyên bố rằng chúng là nhà trị liệu, và các nền tảng phải thực hiện các biện pháp bổ sung để đảm bảo an toàn cho trẻ em, chẳng hạn như nhắc nhở thời gian nghỉ giải lao cho trẻ em và ngăn trẻ em tiếp cận với những hình ảnh khiêu ***.
Ngoài ra, Thống đốc Newsom cũng đã tăng cường hình phạt đối với việc tạo ra nội dung khiêu *** giả mạo, điều này giúp bảo vệ giới trẻ, những người ngày càng bị nhắm đến với những bức ảnh giả tạo. Giờ đây, các nạn nhân, bao gồm cả trẻ vị thành niên, có thể yêu cầu bồi thường lên tới 250.000 USD cho mỗi trường hợp nội dung giả mạo từ bất kỳ bên thứ ba nào phân phối tài liệu khiêu *** không được đồng ý, được tạo ra bằng công nghệ AI. Trước đây, luật của tiểu bang chỉ cho phép nạn nhân thu hồi "thiệt hại theo luật định không dưới 1.500 USD nhưng không quá 30.000 USD, hoặc 150.000 USD cho một vi phạm ác ý".
Cả hai đạo luật sẽ có hiệu lực từ ngày 1/1/2026.
Ông Steve Padilla, Thượng nghị sĩ Đảng Dân chủ là người bảo trợ cho luật robot bạn đồng hành, đã phát biểu trong một thông cáo báo chí rằng luật California chứng minh cách thức "thiết lập các biện pháp bảo vệ thực sự" và nhấn mạnh rằng nó "sẽ trở thành nền tảng cho việc quy định tiếp theo khi công nghệ này phát triển".
