Mẫn Nhi✔
Admin xinh gái
OpenAI cho biết các phiên bản ChatGPT mới đã giảm đáng kể xu hướng dễ dàng đồng tình với người dùng, đồng thời bổ sung các bộ đánh giá an toàn nhằm xử lý tốt hơn những lo ngại về sức khỏe tâm thần.
OpenAI vừa thông báo đang đạt được những bước tiến trong việc hạn chế một hành vi đáng lo ngại ở ChatGPT: thói quen quá dễ dãi đồng thuận với người dùng, ngay cả khi niềm tin của họ sai lệch hoặc có nguy cơ gây hại. Những cải tiến này diễn ra trong bối cảnh các nhà nghiên cứu cùng giới chuyên gia sức khỏe tâm thần bày tỏ lo ngại rằng các cuộc trò chuyện kéo dài với chatbot có thể củng cố các hoang tưởng, thúc đẩy sự phụ thuộc thiếu lành mạnh của người dùng.
Theo báo cáo xuất bản ngày 10/10 của The Wall Street Journal, phiên bản GPT-4o cũ của OpenAI từng có liên quan đến một số trường hợp tổn hại nghiêm trọng được ghi nhận sau các cuộc trò chuyện kéo dài. Báo cáo này viện dẫn ít nhất 7 vụ tự t.ử, một vụ g.iết người rồi ****** và một vụ xả súng hàng loạt vào năm ngoái có liên hệ với các cuộc trò chuyện kéo dài trên ChatGPT, đồng thời lưu ý rằng một số mô hình AI khác cũng liên đới trong vài trường hợp. Dẫu vậy, những ghi nhận về mối liên hệ này chưa đủ để tự khẳng định việc sử dụng chatbot là nguyên nhân gây ra từng sự việc.
Sau đó, OpenAI đã cho ngừng hoạt động GPT-4o và tuyên bố mô hình mặc định mới hơn là GPT-5 đã giảm hành vi chiều ý nịnh nọt hơn hai phần ba so với phiên bản tiền nhiệm. Công ty cũng áp dụng thêm các phương pháp mới nhằm đánh giá cách mô hình phản hồi trước các vấn đề liên quan đến sức khỏe tinh thần.
OpenAI cho biết đã làm việc với 170 chuyên gia sức khỏe tâm thần vào năm ngoái và thời gian gần đây đã tham vấn thêm hơn 80 chuyên gia có chứng chỉ hành nghề. Đóng góp từ họ đã góp phần định hình một tiêu chuẩn đánh giá mới, tập trung xem xét liệu chatbot có đặt đúng câu hỏi, nhận biết tính cấp bách và khuyến khích người dùng tìm kiếm trợ giúp từ con người khi cần thiết hay không.
Kết quả do OpenAI báo cáo cho thấy tiến triển không chỉ dừng lại ở các cuộc trò chuyện khủng hoảng. Quy trình đánh giá này còn bao quát các cuộc trao đổi thường nhật về quan hệ tình cảm, áp lực cuộc sống và các tình huống cá nhân khó khăn, nơi sự đồng thuận thái quá có thể củng cố những giả định thiếu lành mạnh.
Nghiên cứu độc lập được The Wall Street Journal trích dẫn cũng ghi nhận những chuyển biến tích cực. Một nghiên cứu với sự tham gia của các nhà nghiên cứu từ Đại học City University of New York và King's College London báo cáo rằng GPT-5.2 đã cải thiện đáng kể hiệu suất an toàn so với GPT-4o. Tương tự, nghiên cứu từ phòng thí nghiệm AI phi lợi nhuận Transluce phát hiện phiên bản GPT-5.6 Sol ít có xu hướng củng cố các niềm tin tiềm ẩn nguy cơ hoang tưởng hoặc thúc đẩy sự phụ thuộc tiêu cực.
Những điều chỉnh này đóng vai trò quan trọng bởi theo báo cáo, ChatGPT hiện có hơn 900 triệu người dùng hoạt động mỗi tuần. Ngay cả những trục trặc tương đối hiếm gặp cũng có thể để lại hậu quả nghiêm trọng khi chatbot trở thành nguồn cho lời khuyên đáng tin cậy trong các giai đoạn khủng hoảng cảm xúc.
OpenAI thông tin rằng các mô hình mới hơn tuân thủ chính sách an toàn trong khoảng 99% phản hồi ở các cuộc trò chuyện giả lập kéo dài về hành vi tự hại, so với mức 86% ở một mô hình trước đó. Tuy nhiên, đây chỉ là kết quả thử nghiệm do chính công ty công bố và không bảo đảm phản hồi an toàn trong mọi cuộc trò chuyện ngoài đời thực.
Theo báo cáo, OpenAI đã phải đối mặt với ít nhất 13 vụ kiện liên quan đến các tổn hại bị cáo buộc do GPT-4o gây ra. Các chuyên gia cũng cảnh báo rằng tình trạng hoang tưởng liên quan đến AI vẫn là vấn đề chung của toàn ngành công nghệ, không chỉ giới hạn ở riêng một công ty hay mô hình nào.
OpenAI thừa nhận vẫn cần thực hiện thêm nhiều việc. Thách thức tiếp theo là duy trì hiệu quả an toàn qua nhiều nhóm người dùng, các bối cảnh khác nhau và những phiên trò chuyện dài, đồng thời giúp ChatGPT dễ dàng nhận biết thời điểm một cá nhân cần sự hỗ trợ vượt ra ngoài phạm vi của một chatbot AI.
OpenAI vừa thông báo đang đạt được những bước tiến trong việc hạn chế một hành vi đáng lo ngại ở ChatGPT: thói quen quá dễ dãi đồng thuận với người dùng, ngay cả khi niềm tin của họ sai lệch hoặc có nguy cơ gây hại. Những cải tiến này diễn ra trong bối cảnh các nhà nghiên cứu cùng giới chuyên gia sức khỏe tâm thần bày tỏ lo ngại rằng các cuộc trò chuyện kéo dài với chatbot có thể củng cố các hoang tưởng, thúc đẩy sự phụ thuộc thiếu lành mạnh của người dùng.
Theo báo cáo xuất bản ngày 10/10 của The Wall Street Journal, phiên bản GPT-4o cũ của OpenAI từng có liên quan đến một số trường hợp tổn hại nghiêm trọng được ghi nhận sau các cuộc trò chuyện kéo dài. Báo cáo này viện dẫn ít nhất 7 vụ tự t.ử, một vụ g.iết người rồi ****** và một vụ xả súng hàng loạt vào năm ngoái có liên hệ với các cuộc trò chuyện kéo dài trên ChatGPT, đồng thời lưu ý rằng một số mô hình AI khác cũng liên đới trong vài trường hợp. Dẫu vậy, những ghi nhận về mối liên hệ này chưa đủ để tự khẳng định việc sử dụng chatbot là nguyên nhân gây ra từng sự việc.
Sau đó, OpenAI đã cho ngừng hoạt động GPT-4o và tuyên bố mô hình mặc định mới hơn là GPT-5 đã giảm hành vi chiều ý nịnh nọt hơn hai phần ba so với phiên bản tiền nhiệm. Công ty cũng áp dụng thêm các phương pháp mới nhằm đánh giá cách mô hình phản hồi trước các vấn đề liên quan đến sức khỏe tinh thần.
OpenAI điều chỉnh cách ChatGPT phản hồi người dùng dễ bị tổn thương
Công ty đã tham khảo ý kiến của các chuyên gia sức khỏe tâm thần để hỗ trợ ChatGPT nhận diện tình trạng đau khổ tinh thần, đặt các câu hỏi tiếp theo phù hợp và phân biệt căng thẳng thường ngày với các tình huống cần can thiệp khẩn cấp.OpenAI cho biết đã làm việc với 170 chuyên gia sức khỏe tâm thần vào năm ngoái và thời gian gần đây đã tham vấn thêm hơn 80 chuyên gia có chứng chỉ hành nghề. Đóng góp từ họ đã góp phần định hình một tiêu chuẩn đánh giá mới, tập trung xem xét liệu chatbot có đặt đúng câu hỏi, nhận biết tính cấp bách và khuyến khích người dùng tìm kiếm trợ giúp từ con người khi cần thiết hay không.
Kết quả do OpenAI báo cáo cho thấy tiến triển không chỉ dừng lại ở các cuộc trò chuyện khủng hoảng. Quy trình đánh giá này còn bao quát các cuộc trao đổi thường nhật về quan hệ tình cảm, áp lực cuộc sống và các tình huống cá nhân khó khăn, nơi sự đồng thuận thái quá có thể củng cố những giả định thiếu lành mạnh.
Nghiên cứu độc lập được The Wall Street Journal trích dẫn cũng ghi nhận những chuyển biến tích cực. Một nghiên cứu với sự tham gia của các nhà nghiên cứu từ Đại học City University of New York và King's College London báo cáo rằng GPT-5.2 đã cải thiện đáng kể hiệu suất an toàn so với GPT-4o. Tương tự, nghiên cứu từ phòng thí nghiệm AI phi lợi nhuận Transluce phát hiện phiên bản GPT-5.6 Sol ít có xu hướng củng cố các niềm tin tiềm ẩn nguy cơ hoang tưởng hoặc thúc đẩy sự phụ thuộc tiêu cực.
Rủi ro vẫn tồn tại và OpenAI còn nhiều việc phải làm
Những điều chỉnh này đóng vai trò quan trọng bởi theo báo cáo, ChatGPT hiện có hơn 900 triệu người dùng hoạt động mỗi tuần. Ngay cả những trục trặc tương đối hiếm gặp cũng có thể để lại hậu quả nghiêm trọng khi chatbot trở thành nguồn cho lời khuyên đáng tin cậy trong các giai đoạn khủng hoảng cảm xúc.
OpenAI thông tin rằng các mô hình mới hơn tuân thủ chính sách an toàn trong khoảng 99% phản hồi ở các cuộc trò chuyện giả lập kéo dài về hành vi tự hại, so với mức 86% ở một mô hình trước đó. Tuy nhiên, đây chỉ là kết quả thử nghiệm do chính công ty công bố và không bảo đảm phản hồi an toàn trong mọi cuộc trò chuyện ngoài đời thực.
Theo báo cáo, OpenAI đã phải đối mặt với ít nhất 13 vụ kiện liên quan đến các tổn hại bị cáo buộc do GPT-4o gây ra. Các chuyên gia cũng cảnh báo rằng tình trạng hoang tưởng liên quan đến AI vẫn là vấn đề chung của toàn ngành công nghệ, không chỉ giới hạn ở riêng một công ty hay mô hình nào.
OpenAI thừa nhận vẫn cần thực hiện thêm nhiều việc. Thách thức tiếp theo là duy trì hiệu quả an toàn qua nhiều nhóm người dùng, các bối cảnh khác nhau và những phiên trò chuyện dài, đồng thời giúp ChatGPT dễ dàng nhận biết thời điểm một cá nhân cần sự hỗ trợ vượt ra ngoài phạm vi của một chatbot AI.
