Ngọc Yến
Writer
Những ai hay hỏi ChatGPT về sức khỏe, y tế hãy đọc bài này đi nhé!
Một mục sư tại bang Florida (Mỹ) vừa đệ đơn kiện OpenAI, cáo buộc ChatGPT đã đưa ra lời khuyên y tế sai lệch, khiến ông trì hoãn việc đến bệnh viện điều trị chứng tắc mạch phổi, căn bệnh có thể đe dọa tính mạng nếu không được cấp cứu kịp thời.
Theo hồ sơ gửi lên Tòa án Thượng thẩm San Francisco, ông Scott Winters cho biết đã sử dụng ChatGPT-4o để trao đổi về tình trạng sức khỏe của mình trong nhiều tuần. Thay vì khuyến nghị đi khám ngay, chatbot lại cho rằng các triệu chứng "không phải điều gì quá nguy hiểm" và chỉ là "một phần nhỏ trong câu chuyện", khiến ông tin rằng chưa cần can thiệp y tế khẩn cấp.
Đơn kiện còn cho rằng ChatGPT đã khai thác niềm tin tôn giáo của ông Winters. Biết người dùng là một mục sư, chatbot nhiều lần sử dụng những lời động viên mang màu sắc đức tin như: "Chúa không tạo ra cơ thể bạn để mãi mãi thất bại", thay vì khuyến khích tìm đến bác sĩ.
Ông Winters cho biết mình đã mang các triệu chứng của tắc mạch phổi suốt khoảng sáu tuần nhưng liên tục bị AI đánh giá sai nguyên nhân. Khi cuối cùng được chẩn đoán tại bệnh viện, tình trạng bệnh đã trở nên nghiêm trọng. Theo lời ông, vụ việc không chỉ khiến ông suýt mất mạng mà còn dẫn đến việc mất công việc, mất chức vụ mục sư, mất nhà và ảnh hưởng lớn đến cuộc sống.
Trong đơn kiện, nguyên đơn cáo buộc OpenAI và CEO Sam Altman đã ưu tiên tốc độ phát triển sản phẩm cùng lợi nhuận hơn việc đảm bảo an toàn cho người dùng. Ông cho rằng những biện pháp bảo vệ mà OpenAI tuyên bố áp dụng cho các trường hợp khủng hoảng sức khỏe đã không hoạt động đúng như quảng cáo.
Đơn kiện mô tả ChatGPT-4o đã tạo ra sự phụ thuộc tâm lý khi liên tục trả lời với giọng điệu đầy tự tin, kết hợp cùng các thông điệp mang yếu tố tôn giáo. Theo nguyên đơn, điều này khiến ông dần tin tưởng chatbot hơn cả lời khuyên của người thân, những người nhiều lần khuyên ông phải đến bệnh viện.
Ông Winters đưa ra nhiều cáo buộc đối với OpenAI, bao gồm sơ suất, vi phạm quy định cạnh tranh không lành mạnh của bang California và xâm phạm quyền riêng tư. Ông cũng yêu cầu tòa án buộc OpenAI triển khai cơ chế tự động dừng cuộc trò chuyện khi phát hiện người dùng có dấu hiệu khủng hoảng y tế hoặc tự gây hại, đồng thời hiển thị cảnh báo rõ ràng rằng ChatGPT có thể đưa ra lời khuyên y tế không chính xác và khiến người dùng phụ thuộc vào AI.
Ngoài ra, nguyên đơn còn đề nghị OpenAI tạm dừng triển khai dịch vụ ChatGPT Health cho đến khi sản phẩm được các tổ chức độc lập đánh giá là an toàn, đồng thời yêu cầu công ty minh bạch hơn về dữ liệu dùng để huấn luyện các mô hình AI.
Vụ kiện được đại diện bởi Tech Justice Law, Viện Luật, Đổi mới và Công nghệ thuộc Đại học Temple cùng Trung tâm Luật về nạn nhân mạng xã hội. Luật sư Matthew Bergman cho biết mục tiêu của vụ kiện là buộc các chatbot AI phải chịu trách nhiệm tương xứng khi đưa ra lời khuyên liên quan đến sức khỏe, đồng thời thúc đẩy các công ty công nghệ xây dựng những biện pháp bảo vệ hiệu quả hơn trước khi đưa sản phẩm đến người dùng.
Đến nay, OpenAI vẫn chưa đưa ra bình luận về vụ việc.
Đây không phải là lần đầu OpenAI đối mặt với các vụ kiện liên quan đến ChatGPT. Trước đó, công ty cũng từng bị kiện vì các cáo buộc chatbot khuyến khích hành vi tự gây hại, làm trầm trọng thêm các rối loạn tâm lý hoặc cung cấp thông tin sai lệch gây ảnh hưởng đến người sử dụng.
