OpenAI đã thông báo trong một bài đăng trên blog về việc giới thiệu tính năng "dự đoán tuổi" trong phiên bản dành cho người tiêu dùng của ChatGPT để xác định người dùng dưới 18 tuổi và cung cấp sự bảo vệ có mục tiêu.
OpenAI tuyên bố rằng việc triển khai mô hình này đảm bảo người dùng dưới 18 tuổi có thể sử dụng các công cụ AI một cách an toàn. Khi hệ thống xác định chủ tài khoản là trẻ vị thành niên, nó sẽ tự động áp dụng các thiết lập bảo mật phù hợp, từ đó bảo vệ cơ hội khám phá công nghệ của thanh thiếu niên đồng thời bảo vệ sức khỏe tinh thần và thể chất của họ bằng cách hạn chế nội dung nhạy cảm.
Mô hình dự đoán này không chỉ dựa vào độ tuổi mà người dùng nhập vào trong quá trình đăng ký, mà còn phân tích toàn diện nhiều "tín hiệu hành vi và tín hiệu cấp độ tài khoản". Hệ thống sẽ tập trung vào thời gian sử dụng tài khoản, thời điểm cụ thể mà người dùng thường hoạt động (ví dụ như họ có sử dụng vào đêm khuya hay không), và các mô hình tương tác dài hạn.
OpenAI cho biết chiến lược triển khai này giúp liên tục tinh chỉnh độ chính xác của mô hình thông qua phản hồi từ dữ liệu thực tế. Khi hệ thống nghi ngờ về việc xác định tuổi của người dùng hoặc thiếu thông tin đầy đủ, nó sẽ tự động chuyển sang chế độ bảo mật nghiêm ngặt hơn, ưu tiên bảo mật.
Theo một bài đăng trên blog, ChatGPT sẽ tăng cường thêm một lớp bảo vệ cho các tài khoản được xác định là thuộc về trẻ vị thành niên, chặn năm loại nội dung có rủi ro cao:
Ngoài ra, phụ huynh có thể tùy chỉnh thêm trải nghiệm người dùng cho thanh thiếu niên thông qua tính năng "Kiểm soát của phụ huynh", bao gồm thiết lập "khoảng thời gian im lặng" (thời gian bị cấm sử dụng), kiểm soát quyền truy cập chức năng bộ nhớ và nhận thông báo khi hệ thống phát hiện các dấu hiệu căng thẳng tâm lý cấp tính ở người dùng.
OpenAI tuyên bố rằng việc triển khai mô hình này đảm bảo người dùng dưới 18 tuổi có thể sử dụng các công cụ AI một cách an toàn. Khi hệ thống xác định chủ tài khoản là trẻ vị thành niên, nó sẽ tự động áp dụng các thiết lập bảo mật phù hợp, từ đó bảo vệ cơ hội khám phá công nghệ của thanh thiếu niên đồng thời bảo vệ sức khỏe tinh thần và thể chất của họ bằng cách hạn chế nội dung nhạy cảm.
Mô hình dự đoán này không chỉ dựa vào độ tuổi mà người dùng nhập vào trong quá trình đăng ký, mà còn phân tích toàn diện nhiều "tín hiệu hành vi và tín hiệu cấp độ tài khoản". Hệ thống sẽ tập trung vào thời gian sử dụng tài khoản, thời điểm cụ thể mà người dùng thường hoạt động (ví dụ như họ có sử dụng vào đêm khuya hay không), và các mô hình tương tác dài hạn.
OpenAI cho biết chiến lược triển khai này giúp liên tục tinh chỉnh độ chính xác của mô hình thông qua phản hồi từ dữ liệu thực tế. Khi hệ thống nghi ngờ về việc xác định tuổi của người dùng hoặc thiếu thông tin đầy đủ, nó sẽ tự động chuyển sang chế độ bảo mật nghiêm ngặt hơn, ưu tiên bảo mật.
Theo một bài đăng trên blog, ChatGPT sẽ tăng cường thêm một lớp bảo vệ cho các tài khoản được xác định là thuộc về trẻ vị thành niên, chặn năm loại nội dung có rủi ro cao:
- Trực tiếp thể hiện các cảnh bạo lực và đẫm máu.
- Những thử thách lan truyền nguy hiểm có thể khiến trẻ vị thành niên bắt chước.
- Nhập vai có liên quan đến tình dục hoặc bạo lực
- Mô tả liên quan đến hành vi tự gây hại
- Nội dung cổ vũ cho thẩm mỹ cực đoan, chế độ ăn kiêng không lành mạnh hoặc miệt thị ngoại hình.
Ngoài ra, phụ huynh có thể tùy chỉnh thêm trải nghiệm người dùng cho thanh thiếu niên thông qua tính năng "Kiểm soát của phụ huynh", bao gồm thiết lập "khoảng thời gian im lặng" (thời gian bị cấm sử dụng), kiểm soát quyền truy cập chức năng bộ nhớ và nhận thông báo khi hệ thống phát hiện các dấu hiệu căng thẳng tâm lý cấp tính ở người dùng.
