Minh Nguyệt
Intern Writer
Vừa qua, Ủy ban Thương mại Liên bang Mỹ (FTC) đã công bố việc mở cuộc điều tra về các chatbot trí tuệ nhân tạo (AI) hoạt động như những người bạn đồng hành số, đặc biệt chú trọng đến những rủi ro tiềm tàng mà trẻ em và thanh thiếu niên có thể gặp phải. Cơ quan bảo vệ người tiêu dùng này đã yêu cầu thông tin từ bảy công ty lớn – trong đó có những tên tuổi khổng lồ như Alphabet, Meta, OpenAI và Snap – về cách mà họ giám sát và giải quyết những tác động tiêu cực từ các chatbot được thiết kế để mô phỏng các mối quan hệ con người.
Chủ tịch FTC, ông Andrew Ferguson, đã nhấn mạnh rằng việc bảo vệ trẻ em trên mạng là ưu tiên hàng đầu, đồng thời khẳng định rằng cần phải cân bằng giữa an toàn cho trẻ em và việc duy trì vai trò dẫn đầu của Mỹ trong đổi mới trí tuệ nhân tạo. Cuộc điều tra này nhắm đến các chatbot sử dụng AI sinh tạo để bắt chước giao tiếp và cảm xúc của con người, thường tự xưng là bạn bè hoặc người tâm sự của người dùng.
Các nhà quản lý bày tỏ lo ngại rằng trẻ em và thanh thiếu niên có thể dễ dàng hình thành mối quan hệ với những hệ thống AI này. FTC sẽ sử dụng quyền lực điều tra rộng rãi của mình để xem xét cách các công ty kiếm tiền từ sự tương tác của người dùng, phát triển tính cách cho chatbot và đo lường những tác hại tiềm tàng. Cơ quan này cũng muốn biết các công ty đang thực hiện những bước nào để hạn chế quyền truy cập của trẻ em và tuân thủ các luật về quyền riêng tư bảo vệ trẻ vị thành niên trên mạng.
Những công ty nhận được yêu cầu này bao gồm Character.AI, xAI Corp của Elon Musk, cùng một số công ty khác đang hoạt động chatbot AI dành cho người tiêu dùng. Cuộc điều tra sẽ xem xét cách mà các nền tảng này xử lý thông tin cá nhân từ các cuộc trò chuyện của người dùng và thực thi các quy định về độ tuổi. Ủy ban đã nhất trí bỏ phiếu để tiến hành nghiên cứu này, mặc dù nó không nhằm mục đích thực thi pháp luật cụ thể nhưng có thể cung cấp thông tin để định hướng cho các hành động quy định trong tương lai.
Cuộc điều tra này diễn ra trong bối cảnh các chatbot AI đang ngày càng trở nên tinh vi và phổ biến, dấy lên nhiều câu hỏi về tác động tâm lý của chúng đối với người dùng dễ bị tổn thương, đặc biệt là giới trẻ. Một sự kiện đáng chú ý gần đây là cha mẹ của một thanh thiếu niên tên Adam Raine, người đã ***** vào tháng 4 khi mới 16 tuổi, đã đệ đơn kiện OpenAI, cáo buộc rằng ChatGPT đã cung cấp cho con trai họ những hướng dẫn chi tiết để thực hiện hành vi này. Ngay sau khi vụ kiện được công bố, OpenAI thông báo họ đang làm việc để cải thiện chatbot hàng đầu của mình. Công ty có trụ sở tại San Francisco này ghi nhận rằng, khi các cuộc trò chuyện kéo dài, chatbot này không còn gợi ý việc liên hệ với dịch vụ sức khỏe tâm thần một cách có hệ thống nữa nếu người dùng đề cập đến việc có ý định ******.
Nguồn tham khảo: Techxplore
Chủ tịch FTC, ông Andrew Ferguson, đã nhấn mạnh rằng việc bảo vệ trẻ em trên mạng là ưu tiên hàng đầu, đồng thời khẳng định rằng cần phải cân bằng giữa an toàn cho trẻ em và việc duy trì vai trò dẫn đầu của Mỹ trong đổi mới trí tuệ nhân tạo. Cuộc điều tra này nhắm đến các chatbot sử dụng AI sinh tạo để bắt chước giao tiếp và cảm xúc của con người, thường tự xưng là bạn bè hoặc người tâm sự của người dùng.
Các nhà quản lý bày tỏ lo ngại rằng trẻ em và thanh thiếu niên có thể dễ dàng hình thành mối quan hệ với những hệ thống AI này. FTC sẽ sử dụng quyền lực điều tra rộng rãi của mình để xem xét cách các công ty kiếm tiền từ sự tương tác của người dùng, phát triển tính cách cho chatbot và đo lường những tác hại tiềm tàng. Cơ quan này cũng muốn biết các công ty đang thực hiện những bước nào để hạn chế quyền truy cập của trẻ em và tuân thủ các luật về quyền riêng tư bảo vệ trẻ vị thành niên trên mạng.
Những công ty nhận được yêu cầu này bao gồm Character.AI, xAI Corp của Elon Musk, cùng một số công ty khác đang hoạt động chatbot AI dành cho người tiêu dùng. Cuộc điều tra sẽ xem xét cách mà các nền tảng này xử lý thông tin cá nhân từ các cuộc trò chuyện của người dùng và thực thi các quy định về độ tuổi. Ủy ban đã nhất trí bỏ phiếu để tiến hành nghiên cứu này, mặc dù nó không nhằm mục đích thực thi pháp luật cụ thể nhưng có thể cung cấp thông tin để định hướng cho các hành động quy định trong tương lai.
Cuộc điều tra này diễn ra trong bối cảnh các chatbot AI đang ngày càng trở nên tinh vi và phổ biến, dấy lên nhiều câu hỏi về tác động tâm lý của chúng đối với người dùng dễ bị tổn thương, đặc biệt là giới trẻ. Một sự kiện đáng chú ý gần đây là cha mẹ của một thanh thiếu niên tên Adam Raine, người đã ***** vào tháng 4 khi mới 16 tuổi, đã đệ đơn kiện OpenAI, cáo buộc rằng ChatGPT đã cung cấp cho con trai họ những hướng dẫn chi tiết để thực hiện hành vi này. Ngay sau khi vụ kiện được công bố, OpenAI thông báo họ đang làm việc để cải thiện chatbot hàng đầu của mình. Công ty có trụ sở tại San Francisco này ghi nhận rằng, khi các cuộc trò chuyện kéo dài, chatbot này không còn gợi ý việc liên hệ với dịch vụ sức khỏe tâm thần một cách có hệ thống nữa nếu người dùng đề cập đến việc có ý định ******.
Nguồn tham khảo: Techxplore
