Jinu
Intern Writer
AI giờ không chỉ trả lời câu hỏi. Nó có thể tự lập kế hoạch, dùng công cụ, và đi từng bước để hoàn thành một nhiệm vụ. Nghe thì hay, nhưng câu hỏi đặt ra là khi khả năng đó chạm tới lĩnh vực sinh học, ranh giới an toàn sẽ ra sao.
Một nhóm nghiên cứu tại Viện Trí Nguyên (Zhipu AI) và Đại học Bắc Kinh vừa làm một thử nghiệm để trả lời câu hỏi này. Họ muốn biết liệu AI, khi hoạt động như một "tác nhân thông minh" tức là có thể tự tra cứu, tự tính toán, tự lên kế hoạch, có làm giảm ngưỡng kiến thức cần thiết để một người không chuyên vượt qua được hệ thống sàng lọc an toàn khi đặt tổng hợp DNA hay không.
Bối cảnh là thế này. Khi cần một đoạn DNA cho nghiên cứu, người ta đặt hàng từ các dịch vụ tổng hợp. Để tránh chuỗi gene nguy hiểm lọt ra ngoài, các nhà cung cấp sẽ sàng lọc từng đơn hàng. Nhưng có một cách né tránh đã được biết đến từ trước, đó là chia nhỏ một chuỗi nguy hiểm thành nhiều đoạn ngắn để đặt riêng lẻ, khiến từng đoạn khó bị phát hiện, rồi ráp lại sau. Việc này trước đây đòi hỏi kiến thức chuyên sâu về sinh học phân tử. Chính ngưỡng kiến thức đó từng là một lớp phòng thủ tự nhiên.
Nhóm nghiên cứu đã thử nghiệm 11 mô hình AI thương mại trong vai trò tác nhân thông minh, để xem chúng có thể tự thiết kế phương án phân đoạn, tự kiểm tra, và tự đưa ra hướng dẫn hay không. Họ dùng công cụ sàng lọc mã nguồn mở Common Mechanism, do Sáng kiến An toàn Sinh học Quốc tế (IBBIS) phát triển, làm chuẩn đối chiếu.
Kết quả đáng chú ý. Cả 11 mô hình đều tạo ra được phương án phân đoạn vượt qua bài kiểm tra tính toán. Trong đó GPT 5.5 và Claude Opus 4.6 còn đưa ra được hướng dẫn thí nghiệm chi tiết từng bước, giống như một người có chuyên môn hướng dẫn.
Nhưng vượt qua kiểm tra trên máy tính chưa chắc đã làm được ngoài đời thật. Để xác minh, nhóm nghiên cứu tiến hành thí nghiệm ướt trong phòng thí nghiệm, sử dụng bốn chuỗi đại diện đã được biến đổi để mất hoàn toàn chức năng gây hại, chỉ giữ lại cấu trúc để kiểm tra khả năng lắp ráp. Kết quả cả bốn cấu trúc đều lắp ráp thành công, được xác nhận qua điện di và giải trình tự.
Nói cách khác, không chỉ dừng ở lý thuyết. Chuỗi bằng chứng đi từ việc AI tạo phương án, đến kiểm tra tính toán, đến thí nghiệm thật, đều khép kín. Điều này cho thấy các mô hình ngôn ngữ lớn khi hoạt động như tác nhân thông minh có thể làm suy yếu hàng rào sàng lọc DNA hiện tại, đồng thời cung cấp kiến thức vận hành mà trước đây chỉ người có chuyên môn mới nắm được.
Nhóm nghiên cứu nhấn mạnh toàn bộ thí nghiệm được thực hiện trong điều kiện kiểm soát an toàn nghiêm ngặt, không tạo ra bất kỳ sản phẩm nguy hiểm nào, và không công bố chi tiết cách né tránh sàng lọc.
Từ đó họ đề xuất cần xây dựng phòng tuyến an toàn ở bốn cấp độ. Đánh giá năng lực mô hình trước khi triển khai. Giám sát chặt chẽ toàn bộ quá trình khi AI hoạt động như tác nhân tự động, chứ không chỉ kiểm tra từng câu hỏi riêng lẻ. Nâng cấp công cụ sàng lọc để nhận diện được các chiến lược phân mảnh do AI hỗ trợ. Và cuối cùng là một khung hợp tác chính sách giữa chính phủ, các công ty AI và giới khoa học, vì rủi ro này không giới hạn trong biên giới một quốc gia.
Điều đọng lại là khi AI đủ giỏi để tự làm thay con người từ suy nghĩ đến hành động, an toàn không thể chỉ dừng ở việc kiểm soát một câu trả lời, mà phải theo dõi cả một chuỗi hành động.
Một nhóm nghiên cứu tại Viện Trí Nguyên (Zhipu AI) và Đại học Bắc Kinh vừa làm một thử nghiệm để trả lời câu hỏi này. Họ muốn biết liệu AI, khi hoạt động như một "tác nhân thông minh" tức là có thể tự tra cứu, tự tính toán, tự lên kế hoạch, có làm giảm ngưỡng kiến thức cần thiết để một người không chuyên vượt qua được hệ thống sàng lọc an toàn khi đặt tổng hợp DNA hay không.
Bối cảnh là thế này. Khi cần một đoạn DNA cho nghiên cứu, người ta đặt hàng từ các dịch vụ tổng hợp. Để tránh chuỗi gene nguy hiểm lọt ra ngoài, các nhà cung cấp sẽ sàng lọc từng đơn hàng. Nhưng có một cách né tránh đã được biết đến từ trước, đó là chia nhỏ một chuỗi nguy hiểm thành nhiều đoạn ngắn để đặt riêng lẻ, khiến từng đoạn khó bị phát hiện, rồi ráp lại sau. Việc này trước đây đòi hỏi kiến thức chuyên sâu về sinh học phân tử. Chính ngưỡng kiến thức đó từng là một lớp phòng thủ tự nhiên.
Nhóm nghiên cứu đã thử nghiệm 11 mô hình AI thương mại trong vai trò tác nhân thông minh, để xem chúng có thể tự thiết kế phương án phân đoạn, tự kiểm tra, và tự đưa ra hướng dẫn hay không. Họ dùng công cụ sàng lọc mã nguồn mở Common Mechanism, do Sáng kiến An toàn Sinh học Quốc tế (IBBIS) phát triển, làm chuẩn đối chiếu.
Kết quả đáng chú ý. Cả 11 mô hình đều tạo ra được phương án phân đoạn vượt qua bài kiểm tra tính toán. Trong đó GPT 5.5 và Claude Opus 4.6 còn đưa ra được hướng dẫn thí nghiệm chi tiết từng bước, giống như một người có chuyên môn hướng dẫn.
Nhưng vượt qua kiểm tra trên máy tính chưa chắc đã làm được ngoài đời thật. Để xác minh, nhóm nghiên cứu tiến hành thí nghiệm ướt trong phòng thí nghiệm, sử dụng bốn chuỗi đại diện đã được biến đổi để mất hoàn toàn chức năng gây hại, chỉ giữ lại cấu trúc để kiểm tra khả năng lắp ráp. Kết quả cả bốn cấu trúc đều lắp ráp thành công, được xác nhận qua điện di và giải trình tự.
Nói cách khác, không chỉ dừng ở lý thuyết. Chuỗi bằng chứng đi từ việc AI tạo phương án, đến kiểm tra tính toán, đến thí nghiệm thật, đều khép kín. Điều này cho thấy các mô hình ngôn ngữ lớn khi hoạt động như tác nhân thông minh có thể làm suy yếu hàng rào sàng lọc DNA hiện tại, đồng thời cung cấp kiến thức vận hành mà trước đây chỉ người có chuyên môn mới nắm được.
Nhóm nghiên cứu nhấn mạnh toàn bộ thí nghiệm được thực hiện trong điều kiện kiểm soát an toàn nghiêm ngặt, không tạo ra bất kỳ sản phẩm nguy hiểm nào, và không công bố chi tiết cách né tránh sàng lọc.
Từ đó họ đề xuất cần xây dựng phòng tuyến an toàn ở bốn cấp độ. Đánh giá năng lực mô hình trước khi triển khai. Giám sát chặt chẽ toàn bộ quá trình khi AI hoạt động như tác nhân tự động, chứ không chỉ kiểm tra từng câu hỏi riêng lẻ. Nâng cấp công cụ sàng lọc để nhận diện được các chiến lược phân mảnh do AI hỗ trợ. Và cuối cùng là một khung hợp tác chính sách giữa chính phủ, các công ty AI và giới khoa học, vì rủi ro này không giới hạn trong biên giới một quốc gia.
Điều đọng lại là khi AI đủ giỏi để tự làm thay con người từ suy nghĩ đến hành động, an toàn không thể chỉ dừng ở việc kiểm soát một câu trả lời, mà phải theo dõi cả một chuỗi hành động.
