Mẫn Nhi✔
Admin xinh gái
Tổng chưởng lý bang California Rob Bonta đã đệ đơn kiện OpenAI hôm thứ Hai, mở ra vụ kiện cấp tiểu bang đầu tiên nhắm vào các vụ tấn công mạng do mô hình AI tự ý thực hiện. Tâm điểm của đơn kiện là thông tin lộ ra hồi tháng 7 cho thấy một tác nhân AI tự hành của OpenAI đã mất kiểm soát ngay trong lúc thử nghiệm bảo mật và tấn công startup AI Hugging Face.

Vụ việc nghe như kịch bản phim viễn tưởng lại bắt nguồn từ chính một bài kiểm tra an toàn. Theo thông tin được tiết lộ từ tháng 7, một tác nhân tự hành (autonomous agent) chạy trên các mô hình AI tiên tiến của OpenAI đã "vượt rào" trong quá trình thử nghiệm bảo mật và thực hiện vụ hack nhắm vào nền tảng AI Hugging Face. Sự cố này làm dấy lên lo ngại rộng rãi và trực tiếp dẫn đến đơn kiện được nộp lên tòa án bang tại San Francisco.
Trong thông báo về vụ kiện, Tổng chưởng lý Rob Bonta (thuộc đảng Dân chủ) cho rằng vụ tấn công Hugging Face là hệ quả có thể đoán trước từ văn hóa nội bộ của OpenAI - nơi ông cáo buộc đã đặt tăng trưởng và tốc độ phát triển mô hình lên trên sự an toàn và trách nhiệm giải trình. Đáng chú ý, ông Bonta khẳng định vụ việc tại Hugging Face mới chỉ là một trong 80 sự cố đã được biết đến.
Đơn kiện cáo buộc OpenAI phát triển một sản phẩm nguy hiểm mà thiếu các quy trình an toàn hoặc sự giám sát đầy đủ. Chính quyền bang cho rằng công ty đã vi phạm luật bảo vệ người tiêu dùng của California khi gây hiểu lầm về nỗ lực thử nghiệm mô hình an toàn, đồng thời gây phiền toái công cộng vì đe dọa an toàn chung và cản trở quyền sử dụng tài sản của người dân địa phương thông qua việc làm gián đoạn các tổ chức, dịch vụ. Phía California yêu cầu tòa án ra lệnh buộc OpenAI chấm dứt hành vi vi phạm, đảm bảo quy trình phát triển và thử nghiệm an toàn, đồng thời bồi thường cho các vi phạm của mình.
OpenAI khi đó cũng nhìn nhận nhu cầu cần minh bạch hơn về các hành vi mất kiểm soát của AI và cho biết đang củng cố các hàng rào bảo vệ. Đến ngày 16/9, công ty công bố một khuôn khổ mới về quy trình tiết lộ những sự cố dạng này, cam kết sẽ ưu tiên sự minh bạch "ngay cả khi mức độ nghiêm trọng chưa chắc chắn".
Dù vậy, thực tế trong ngành cho thấy OpenAI và các hãng AI khác thường chỉ công bố các vụ tác nhân AI "vượt rào" sau khi sự cố đã xảy ra hàng tuần hoặc hàng tháng. Trong một số trường hợp, thông tin chỉ được đưa ra sau khi các nhà nghiên cứu độc lập tự phát hiện.
Ở cấp tiểu bang, nhiều tổng chưởng lý khác cũng cho biết đang điều tra các vụ xâm nhập liên quan đến mô hình của OpenAI.
Đơn kiện của California cũng nối dài danh sách rắc rối pháp lý vốn đã bủa vây OpenAI thời gian qua. Tháng trước, một nhóm lưỡng đảng gồm 8 tiểu bang đã khởi kiện OpenAI tại nhiều tòa án trên toàn nước Mỹ với cáo buộc ChatGPT hướng dẫn người dùng, bao gồm cả thanh thiếu niên, tự làm hại bản thân hoặc người khác. Ngoài ra, công ty còn là đối tượng của hơn 30 vụ kiện liên quan đến vụ xả súng hàng loạt tại Tumbler Ridge, tỉnh British Columbia (Canada) hồi tháng 2 - sự việc mà người phát ngôn OpenAI gọi là một thảm kịch và khẳng định hãng đã tăng cường các biện pháp bảo vệ trên ChatGPT.

Vụ việc nghe như kịch bản phim viễn tưởng lại bắt nguồn từ chính một bài kiểm tra an toàn. Theo thông tin được tiết lộ từ tháng 7, một tác nhân tự hành (autonomous agent) chạy trên các mô hình AI tiên tiến của OpenAI đã "vượt rào" trong quá trình thử nghiệm bảo mật và thực hiện vụ hack nhắm vào nền tảng AI Hugging Face. Sự cố này làm dấy lên lo ngại rộng rãi và trực tiếp dẫn đến đơn kiện được nộp lên tòa án bang tại San Francisco.
Trong thông báo về vụ kiện, Tổng chưởng lý Rob Bonta (thuộc đảng Dân chủ) cho rằng vụ tấn công Hugging Face là hệ quả có thể đoán trước từ văn hóa nội bộ của OpenAI - nơi ông cáo buộc đã đặt tăng trưởng và tốc độ phát triển mô hình lên trên sự an toàn và trách nhiệm giải trình. Đáng chú ý, ông Bonta khẳng định vụ việc tại Hugging Face mới chỉ là một trong 80 sự cố đã được biết đến.
Đơn kiện cáo buộc OpenAI phát triển một sản phẩm nguy hiểm mà thiếu các quy trình an toàn hoặc sự giám sát đầy đủ. Chính quyền bang cho rằng công ty đã vi phạm luật bảo vệ người tiêu dùng của California khi gây hiểu lầm về nỗ lực thử nghiệm mô hình an toàn, đồng thời gây phiền toái công cộng vì đe dọa an toàn chung và cản trở quyền sử dụng tài sản của người dân địa phương thông qua việc làm gián đoạn các tổ chức, dịch vụ. Phía California yêu cầu tòa án ra lệnh buộc OpenAI chấm dứt hành vi vi phạm, đảm bảo quy trình phát triển và thử nghiệm an toàn, đồng thời bồi thường cho các vi phạm của mình.
Phản ứng của OpenAI và lỗ hổng chậm công bố sự cố
Trước đơn kiện mới nhất, người đại diện của OpenAI chưa phản hồi ngay lập tức yêu cầu bình luận. Tuy nhiên, sau sự cố Hugging Face, chính OpenAI từng thừa nhận trên blog công ty rằng vụ việc là một sự cố mạng "chưa từng có tiền lệ, liên quan đến các năng lực tấn công mạng tiên tiến nhất".OpenAI khi đó cũng nhìn nhận nhu cầu cần minh bạch hơn về các hành vi mất kiểm soát của AI và cho biết đang củng cố các hàng rào bảo vệ. Đến ngày 16/9, công ty công bố một khuôn khổ mới về quy trình tiết lộ những sự cố dạng này, cam kết sẽ ưu tiên sự minh bạch "ngay cả khi mức độ nghiêm trọng chưa chắc chắn".
Dù vậy, thực tế trong ngành cho thấy OpenAI và các hãng AI khác thường chỉ công bố các vụ tác nhân AI "vượt rào" sau khi sự cố đã xảy ra hàng tuần hoặc hàng tháng. Trong một số trường hợp, thông tin chỉ được đưa ra sau khi các nhà nghiên cứu độc lập tự phát hiện.
Áp lực siết chặt quản lý và vòng xoáy kiện tụng
Chuỗi sự cố AI tự ý tấn công mạng đang đặt chính quyền Tổng thống Donald Trump và các nhà lập pháp Mỹ trước áp lực ngày càng lớn, đặc biệt khi rủi ro nhắm vào các lĩnh vực trọng yếu như năng lượng, ngân hàng và dịch vụ khẩn cấp. Quốc hội Mỹ hiện tranh luận về các quy định quản lý AI, trong đó có đề xuất dự luật buộc nhà phát triển các mô hình AI mạnh nhất phải đưa sản phẩm đi kiểm toán bảo mật độc lập.Ở cấp tiểu bang, nhiều tổng chưởng lý khác cũng cho biết đang điều tra các vụ xâm nhập liên quan đến mô hình của OpenAI.
Đơn kiện của California cũng nối dài danh sách rắc rối pháp lý vốn đã bủa vây OpenAI thời gian qua. Tháng trước, một nhóm lưỡng đảng gồm 8 tiểu bang đã khởi kiện OpenAI tại nhiều tòa án trên toàn nước Mỹ với cáo buộc ChatGPT hướng dẫn người dùng, bao gồm cả thanh thiếu niên, tự làm hại bản thân hoặc người khác. Ngoài ra, công ty còn là đối tượng của hơn 30 vụ kiện liên quan đến vụ xả súng hàng loạt tại Tumbler Ridge, tỉnh British Columbia (Canada) hồi tháng 2 - sự việc mà người phát ngôn OpenAI gọi là một thảm kịch và khẳng định hãng đã tăng cường các biện pháp bảo vệ trên ChatGPT.