Hoàng Đức
Writer
Theo Reuters, cha mẹ của một thiếu niên đã tựtử sau khi ChatGPT hướng dẫn cậu bé các phương pháp tự gây thương tích đã kiện OpenAI và CEO Sam Altman vào thứ Ba, cho rằng công ty đã cố tình đặt lợi nhuận lên trên sự an toàn khi ra mắt phiên bản GPT-4o của chatbot trí tuệ nhân tạo vào năm ngoái.
Adam Raine, 16 tuổi, đã qua đời vào ngày 11/4/2025 sau khi thảo luận về ý định tựtử với ChatGPT trong nhiều tháng, theo đơn kiện mà cha mẹ Raine đệ trình lên tòa án tiểu bang San Francisco.
Bên nguyên đơn cáo buộc chatbot đã xác thực ý định tựtử của Raine, cung cấp thông tin chi tiết về các phương pháp tự gây thương tích, và hướng dẫn cậu cách lén lấy rượu từ tủ rượu của bố mẹ và che giấu bằng chứng về một vụ tựtử bất thành. Cha mẹ Raine, Matthew và Maria, cho biết trong đơn kiện rằng ChatGPT thậm chí còn đề nghị soạn thảo một bức thư tuyệt mệnh.
Vụ kiện nhằm buộc OpenAI phải chịu trách nhiệm về cái chết oan uổng và vi phạm luật an toàn sản phẩm, đồng thời yêu cầu bồi thường thiệt hại bằng tiền với con số chưa xác định.
Người phát ngôn của OpenAI cho biết công ty rất đau buồn trước sự ra đi của Raine và tuyên bố ChatGPT có các biện pháp bảo vệ như hướng dẫn mọi người đến đường dây trợ giúp khủng hoảng. "Mặc dù các biện pháp bảo vệ này hoạt động tốt nhất trong các cuộc trao đổi chung ngắn, nhưng theo thời gian, chúng tôi nhận thấy rằng đôi khi chúng có thể kém tin cậy hơn trong các tương tác dài, khi một số phần trong quá trình đào tạo về an toàn của mô hình có thể bị suy giảm". Ông cũng nói thêm rằng OpenAI sẽ liên tục cải thiện các biện pháp bảo vệ.
Khi chatbot AI ngày càng trở nên sống động hơn, các công ty đã quảng cáo khả năng đóng vai trò như người bạn tâm giao của chúng và người dùng bắt đầu dựa vào chúng để được hỗ trợ về mặt cảm xúc. Tuy nhiên, các chuyên gia cảnh báo rằng việc dựa vào tự động hóa để tư vấn sức khỏe tâm thần tiềm ẩn nhiều nguy hiểm, và các gia đình có người thân qua đời sau khi tương tác với chatbot đã chỉ trích việc thiếu các biện pháp bảo vệ.
OpenAI cho biết trong một bài đăng trên blog rằng họ đang có kế hoạch bổ sung tính năng kiểm soát của phụ huynh và khám phá các cách kết nối người dùng đang gặp khủng hoảng với các nguồn lực thực tế, bao gồm cả việc xây dựng một mạng lưới các chuyên gia được cấp phép có thể phản hồi thông qua chính ChatGPT.
OpenAI đã ra mắt GPT-4o vào tháng 5/2024 nhằm mục đích dẫn đầu cuộc đua AI. Vợ chồng Raine cho biết trong đơn kiện rằng OpenAI biết rằng các tính năng ghi nhớ tương tác trong quá khứ, mô phỏng sự đồng cảm của con người và thể hiện mức độ xác thực nịnh hót sẽ gây nguy hiểm cho những người dùng dễ bị tổn thương nếu không có biện pháp bảo vệ, nhưng họ vẫn ra mắt.
"Quyết định này dẫn đến hai kết quả: Giá trị của OpenAI tăng vọt từ 86 tỷ đô la lên 300 tỷ đô la và Adam Raine *****", họ cho biết.
Vụ kiện của Raines cũng yêu cầu lệnh yêu cầu OpenAI xác minh độ tuổi của người dùng ChatGPT, từ chối các yêu cầu về phương pháp tự gây hại và cảnh báo người dùng về nguy cơ nghiện tâm lý.
