OpenAI cảnh báo nguy cơ sinh học từ AI mới: Mô hình thông minh đến mức phải kiểm soát nghiêm ngặt

OpenAI vừa công bố một mô hình trí tuệ nhân tạo mới mang tên ChatGPT Agent, với khả năng xử lý các tác vụ phức tạp từ đầu đến cuối chẳng hạn như lên kế hoạch cho kỳ nghỉ hay giải quyết công việc nhiều bước mà không cần con người can thiệp nhiều. Theo đánh giá từ chính OpenAI, mô hình này có năng lực gần ngang với con người trong nhiều nhiệm vụ.

Tuy nhiên, chính vì mức độ thông minh vượt trội đó, OpenAI cũng đã nâng cấp mức độ cảnh báo rủi ro sinh học đối với công nghệ mới này. Trong báo cáo hệ thống, công ty cho biết họ đang xếp mô hình vào loại “có năng lực cao trong lĩnh vực sinh học và hóa học”, vì có thể vô tình hỗ trợ người không chuyên tạo ra các mối nguy sinh học nghiêm trọng như thiết kế virus hay vũ khí sinh học.

Dù chưa có bằng chứng chắc chắn rằng AI có thể thực sự tạo ra hiểm họa sinh học, nhưng OpenAI vẫn áp dụng các biện pháp phòng ngừa sớm, coi đó là cách hành xử có trách nhiệm trong bối cảnh công nghệ phát triển quá nhanh.

Hệ thống an toàn được siết chặt hơn bao giờ hết

OpenAI cho biết đây là mô hình có lớp bảo vệ an toàn toàn diện nhất từ trước đến nay. Các biện pháp bao gồm:

Mô hình hóa mối đe dọa chi tiết
Đào tạo để từ chối những yêu cầu mang tính hai mặt (dual-use refusal training)
Hệ thống giám sát lý luận và phân loại nội dung luôn hoạt động
Quy trình xử lý vi phạm rõ ràng

Động thái này đến trong bối cảnh các công ty công nghệ lớn đang đua nhau phát triển AI tác nhân (agentic AI) tức AI có thể hành động tự động thay người dùng. Perplexity vừa ra mắt trình duyệt AI có khả năng tác vụ tương tự, còn Amazon Web Services cũng công bố các công cụ mới giúp khách hàng xây dựng AI tác nhân.

OpenAI cũng đang mở văn phòng đầu tiên tại Washington nhằm thể hiện cam kết về chính sách công nghệ và tăng cường đối thoại với các nhà làm luật, giữa lúc AI ngày càng gắn bó chặt chẽ với cuộc sống hàng ngày và các vấn đề an ninh toàn cầu.