Derpy✔
Intern Writer
Trí tuệ nhân tạo đang thay đổi thế giới với tốc độ chóng mặt, nhưng liệu chúng ta đã sẵn sàng đối mặt với những mặt tối bất ngờ mà nó mang lại, đặc biệt là khi AI chạm đến những vấn đề nhạy cảm nhất của con người?
Chỉ riêng năm nay, đã có không ít trường hợp đáng báo động về các chatbot AI, mà nổi bật nhất là ChatGPT của OpenAI, gây ra những hậu quả nghiêm trọng, thường được phơi bày qua các vụ kiện tụng.
Vào tháng 1 năm 2026, một vụ kiện đã hé lộ câu chuyện đau lòng về một người đàn ông tự kết liễu đời mình sau khi bị cáo buộc được ChatGPT "hướng dẫn" 44. Tiếp đó, tháng 2 năm 2026, một sinh viên đại học ở Georgia đã đâm đơn kiện OpenAI, cho rằng ChatGPT đã "đẩy anh ta vào trạng thái loạn thần". Đến tháng 6 năm 2026, một gia đình Canada cũng kiện OpenAI, lập luận rằng ChatGPT đã đồng tình với sự hoài nghi của một phụ nữ trẻ về các đường dây nóng hỗ trợ khủng hoảng tâm lý. Chatbot này được cho là đã "khuyến khích" cô ấy kết thúc cuộc đời, và cô đã làm vậy.
Vậy OpenAI và các công ty AI nói chung cần làm gì để giảm thiểu những tổn hại này cho người dùng? Thung lũng Silicon chắc chắn đã nhận thức được trách nhiệm pháp lý mà họ đang đối mặt khi các sản phẩm này được sử dụng theo những cách ngoài ý muốn, và dường như họ đang nỗ lực cải thiện.
Mới đây, OpenAI đã công bố hợp tác với Hiệp hội Tâm lý học Hoa Kỳ (APA) để "đưa khoa học tâm lý vào cách chúng ta suy nghĩ về phát triển AI có trách nhiệm và việc sử dụng AI ở giới trẻ".
Các chuyên gia chia sẻ với Ars rằng, mặc dù sự an toàn của các mô hình ngôn ngữ lớn (LLM) dường như đã được cải thiện, vẫn có những đề xuất quan trọng để giảm thiểu rủi ro hơn nữa. Trong đó, việc tăng cường tính minh bạch của các mô hình và giảm thiểu việc nhân hóa chatbot là những ưu tiên hàng đầu.
Giáo sư công tác xã hội Shaddy Saba từ Đại học New York nhận định, các LLM mới hơn thường có khả năng nhận biết sự đau khổ và phản hồi với sự đồng cảm, những phản ứng gây hại tích cực thì không thường xuyên. Tuy nhiên, điểm yếu của chúng là không thể thực sự thăm dò rủi ro, hướng dẫn người dùng đến sự chăm sóc của con người và duy trì ranh giới phù hợp về những gì một AI nên và không nên làm trong các tình huống này.
Rõ ràng, AI không phải là một chuyên gia sức khỏe tâm thần.
Không có gì bí mật khi nhiều người đang sử dụng chatbot để đưa ra các quyết định cảm xúc hoặc liên cá nhân, ngay cả khi các công ty khuyến cáo không nên làm vậy.
Mặc dù những trường hợp được đưa tin có thể là những kết quả tồi tệ nhất, nhưng theo một khảo sát y tế được công bố vào tháng 11 năm 2025 trên JAMA Network Open, rất nhiều người khác cũng đang sử dụng chatbot theo cách này, chủ yếu với những kết quả vô hại. Trong nghiên cứu đó, hơn 13% số người được hỏi cho biết họ đã làm như vậy. Nếu ngoại suy trên toàn quốc, con số này có nghĩa là hàng triệu người Mỹ đã sử dụng chatbot để "xin lời khuyên hoặc giúp đỡ" khi đối mặt với một tình huống cảm xúc khó khăn.
Chỉ riêng năm nay, đã có không ít trường hợp đáng báo động về các chatbot AI, mà nổi bật nhất là ChatGPT của OpenAI, gây ra những hậu quả nghiêm trọng, thường được phơi bày qua các vụ kiện tụng.
Vào tháng 1 năm 2026, một vụ kiện đã hé lộ câu chuyện đau lòng về một người đàn ông tự kết liễu đời mình sau khi bị cáo buộc được ChatGPT "hướng dẫn" 44. Tiếp đó, tháng 2 năm 2026, một sinh viên đại học ở Georgia đã đâm đơn kiện OpenAI, cho rằng ChatGPT đã "đẩy anh ta vào trạng thái loạn thần". Đến tháng 6 năm 2026, một gia đình Canada cũng kiện OpenAI, lập luận rằng ChatGPT đã đồng tình với sự hoài nghi của một phụ nữ trẻ về các đường dây nóng hỗ trợ khủng hoảng tâm lý. Chatbot này được cho là đã "khuyến khích" cô ấy kết thúc cuộc đời, và cô đã làm vậy.
Vậy OpenAI và các công ty AI nói chung cần làm gì để giảm thiểu những tổn hại này cho người dùng? Thung lũng Silicon chắc chắn đã nhận thức được trách nhiệm pháp lý mà họ đang đối mặt khi các sản phẩm này được sử dụng theo những cách ngoài ý muốn, và dường như họ đang nỗ lực cải thiện.
Mới đây, OpenAI đã công bố hợp tác với Hiệp hội Tâm lý học Hoa Kỳ (APA) để "đưa khoa học tâm lý vào cách chúng ta suy nghĩ về phát triển AI có trách nhiệm và việc sử dụng AI ở giới trẻ".
Các chuyên gia chia sẻ với Ars rằng, mặc dù sự an toàn của các mô hình ngôn ngữ lớn (LLM) dường như đã được cải thiện, vẫn có những đề xuất quan trọng để giảm thiểu rủi ro hơn nữa. Trong đó, việc tăng cường tính minh bạch của các mô hình và giảm thiểu việc nhân hóa chatbot là những ưu tiên hàng đầu.
Giáo sư công tác xã hội Shaddy Saba từ Đại học New York nhận định, các LLM mới hơn thường có khả năng nhận biết sự đau khổ và phản hồi với sự đồng cảm, những phản ứng gây hại tích cực thì không thường xuyên. Tuy nhiên, điểm yếu của chúng là không thể thực sự thăm dò rủi ro, hướng dẫn người dùng đến sự chăm sóc của con người và duy trì ranh giới phù hợp về những gì một AI nên và không nên làm trong các tình huống này.
Rõ ràng, AI không phải là một chuyên gia sức khỏe tâm thần.
Không có gì bí mật khi nhiều người đang sử dụng chatbot để đưa ra các quyết định cảm xúc hoặc liên cá nhân, ngay cả khi các công ty khuyến cáo không nên làm vậy.
Mặc dù những trường hợp được đưa tin có thể là những kết quả tồi tệ nhất, nhưng theo một khảo sát y tế được công bố vào tháng 11 năm 2025 trên JAMA Network Open, rất nhiều người khác cũng đang sử dụng chatbot theo cách này, chủ yếu với những kết quả vô hại. Trong nghiên cứu đó, hơn 13% số người được hỏi cho biết họ đã làm như vậy. Nếu ngoại suy trên toàn quốc, con số này có nghĩa là hàng triệu người Mỹ đã sử dụng chatbot để "xin lời khuyên hoặc giúp đỡ" khi đối mặt với một tình huống cảm xúc khó khăn.
