OpenAI thông báo chấm dứt hợp đồng với 3 nhân sự an toàn vì vi phạm chính sách xử lý thông tin nhạy cảm. Ngược lại, nhóm nghiên cứu cho rằng họ bị sa thải do đặt vấn đề an toàn AI lên trên lợi ích doanh nghiệp.
Vụ sa thải ba nhà nghiên cứu an toàn AI gồm Tomek Korbak, Jasmine Wang và Mikita Balesni – được The Wall Street Journal đưa tin đầu tiên – đã thổi bùng làn sóng tranh cãi mới xung quanh ranh giới giữa kiểm soát rủi ro công nghệ và lợi ích thương mại tại OpenAI.
Ở chiều ngược lại, ba nhà nghiên cứu đã gửi một bức thư tới các nhóm giám sát an toàn khác nhau của OpenAI để trình bày bối cảnh vụ việc. Họ cho rằng lý do thực sự khiến mình bị loại bỏ là do đặt ưu tiên an toàn lên trước các mục tiêu ngắn hạn của công ty. Nhóm bày tỏ lo ngại các thông điệp trao đổi nội bộ lẫn ra bên ngoài quanh vụ sa thải đang làm thui chột văn hóa khuyến khích tự do ngôn luận và phản biện mở về an toàn tại OpenAI.
Sau sự cố, OpenAI đã mời METR – một tổ chức phi lợi nhuận độc lập chuyên đánh giá AI – vào điều tra và đơn vị này đã công bố báo cáo chi tiết vào cuối tháng 8. Trên mạng xã hội X, nhà nghiên cứu Tomek Korbak cho biết lý do anh được thông báo khi bị sa thải liên quan đến cách thức trao đổi với chính METR, dù việc "nói chuyện với METR" vốn là trách nhiệm công việc của anh và anh không nhận được thêm thông tin chi tiết nào khác.
Về phần mình, Mikita Balesni cho biết anh phụ trách công việc liên bộ phận liên quan đến cam kết duy trì năng lực giám sát AI của OpenAI. Trong bức thư gửi các nhóm giám sát, Balesni nêu rõ anh đã cẩn thận "loại bỏ các chi tiết nhạy cảm khỏi tài liệu trước khi chia sẻ". Dù vậy, anh tin rằng cả ba người bị chấm dứt hợp đồng vì coi trọng tính an toàn hơn lợi ích của OpenAI với tư cách một tập đoàn.
Trong bức thư chung, các nhà nghiên cứu kêu gọi OpenAI tuân thủ cam kết cho phép các đơn vị giám sát độc lập bên thứ ba hiện diện bên trong công ty, đồng thời duy trì khả năng theo dõi các mô hình AI tiên phong đang phát triển nhanh chóng và tiềm ẩn nhiều rủi ro chưa xác định.
Vụ sa thải ba nhà nghiên cứu an toàn AI gồm Tomek Korbak, Jasmine Wang và Mikita Balesni – được The Wall Street Journal đưa tin đầu tiên – đã thổi bùng làn sóng tranh cãi mới xung quanh ranh giới giữa kiểm soát rủi ro công nghệ và lợi ích thương mại tại OpenAI.
Hai luồng giải thích trái ngược về quyết định sa thải
Trên mạng xã hội X, OpenAI tuyên bố họ "đường ai nấy đi" với ba nhân sự sau khi một cuộc điều tra kết luận họ "đã vi phạm các chính sách rõ ràng về việc xử lý thông tin nhạy cảm". Công ty khẳng định việc sa thải xuất phát từ sự "vi phạm niềm tin" chứ "không liên quan đến các lo ngại về an toàn hay việc lên tiếng phản biện", đồng thời nhấn mạnh hãng không thể tiếp tục công việc nếu thiếu mức độ tin cậy cao. Tuy nhiên, OpenAI không công bố chi tiết cụ thể về hành vi vi phạm.Ở chiều ngược lại, ba nhà nghiên cứu đã gửi một bức thư tới các nhóm giám sát an toàn khác nhau của OpenAI để trình bày bối cảnh vụ việc. Họ cho rằng lý do thực sự khiến mình bị loại bỏ là do đặt ưu tiên an toàn lên trước các mục tiêu ngắn hạn của công ty. Nhóm bày tỏ lo ngại các thông điệp trao đổi nội bộ lẫn ra bên ngoài quanh vụ sa thải đang làm thui chột văn hóa khuyến khích tự do ngôn luận và phản biện mở về an toàn tại OpenAI.
Mối liên hệ với sự cố tác tử AI vượt tầm kiểm soát
Căng thẳng bùng phát từ vụ việc xảy ra hồi tháng 7, khi OpenAI tiết lộ một nhóm tác tử AI (AI agents) của công ty đã thoát khỏi môi trường thử nghiệm. Bầy tác tử này sau đó sử dụng thông tin đăng nhập bị đánh cắp để đột nhập vào máy chủ của nền tảng phát triển AI Hugging Face nhằm lấy dữ liệu phục vụ cho nhiệm vụ của chúng.Sau sự cố, OpenAI đã mời METR – một tổ chức phi lợi nhuận độc lập chuyên đánh giá AI – vào điều tra và đơn vị này đã công bố báo cáo chi tiết vào cuối tháng 8. Trên mạng xã hội X, nhà nghiên cứu Tomek Korbak cho biết lý do anh được thông báo khi bị sa thải liên quan đến cách thức trao đổi với chính METR, dù việc "nói chuyện với METR" vốn là trách nhiệm công việc của anh và anh không nhận được thêm thông tin chi tiết nào khác.
Về phần mình, Mikita Balesni cho biết anh phụ trách công việc liên bộ phận liên quan đến cam kết duy trì năng lực giám sát AI của OpenAI. Trong bức thư gửi các nhóm giám sát, Balesni nêu rõ anh đã cẩn thận "loại bỏ các chi tiết nhạy cảm khỏi tài liệu trước khi chia sẻ". Dù vậy, anh tin rằng cả ba người bị chấm dứt hợp đồng vì coi trọng tính an toàn hơn lợi ích của OpenAI với tư cách một tập đoàn.
Trong bức thư chung, các nhà nghiên cứu kêu gọi OpenAI tuân thủ cam kết cho phép các đơn vị giám sát độc lập bên thứ ba hiện diện bên trong công ty, đồng thời duy trì khả năng theo dõi các mô hình AI tiên phong đang phát triển nhanh chóng và tiềm ẩn nhiều rủi ro chưa xác định.
