Nhung Phan
Intern Writer
Nếu một ngày AI có thể tạo ra độc tố sinh học mà không ai phát hiện được, liệu chúng ta có thật sự sẵn sàng cho kỷ nguyên công nghệ này?
Nghiên cứu được công bố trên tạp chí Science cho thấy các công cụ thiết kế protein AI nguồn mở có thể tạo ra hàng nghìn phiên bản biến thể của độc tố bằng cách thay đổi chuỗi axit amin. Điều đáng nói là chúng vẫn giữ nguyên cấu trúc, thậm chí cả khả năng hoạt động, nhưng lại vượt qua được các quy trình kiểm tra an toàn sinh học hiện nay.
Eric Horvitz, Giám đốc Khoa học của Microsoft, đã đặt ra một câu hỏi tưởng như chỉ để thử nghiệm: “Liệu AI có thể thiết kế lại protein độc hại mà vẫn qua mặt hệ thống sàng lọc hay không?”. Câu trả lời khiến ông và cả giới khoa học phải lạnh người: “Có. Và AI làm điều đó khá dễ dàng.”
Kết quả cho thấy, phần mềm sàng lọc hiện nay quá yếu để nhận ra các biến thể “ngụy trang” của protein độc hại. Giống như một hệ thống bảo mật chỉ nhận ra tội phạm nếu họ mặc cùng bộ quần áo như hôm bị bắt lần trước.
Eric nhìn nhận rằng, thiết kế protein bằng AI là một bước tiến đáng kinh ngạc, nhưng tốc độ phát triển chóng mặt khiến việc kiểm soát trở thành thách thức thực sự. Ông nói: “Có nhiều cách AI có thể bị lạm dụng trong sinh học, và điều đó sẽ còn tiếp diễn. Chúng ta cần liên tục phát hiện và vá những lỗ hổng mới.”
Chính vì vậy, nghiên cứu này không nhằm gieo sợ hãi mà để nhấn mạnh một điều: con người phải học cách đi cùng AI một cách có trách nhiệm. Như Eric nói, “AI có thể mang lại những đột phá mang tính cách mạng trong sinh học và y học, nhưng chỉ khi chúng ta đảm bảo nó phục vụ con người chứ không phải ngược lại.”
Sau tất cả, điểm sáng lớn nhất không nằm ở phát hiện nguy hiểm, mà ở việc cộng đồng khoa học đã nhanh chóng ngồi lại cùng nhau. Microsoft và các công ty DNA đã hợp tác, xây dựng bản vá bảo mật hiện được áp dụng trên toàn cầu. Một ví dụ hiếm hoi cho thấy, khi công nghệ đi quá nhanh, con người vẫn có thể bắt kịp, nếu cùng nhau hành động.
Nếu AI có thể phát hiện ra lỗ hổng trong hệ thống an ninh sinh học của chính chúng ta, thì câu hỏi lớn hơn là: ai sẽ là người giám sát AI?
Nguồn bài viết: https://aimagazine.com/news/microsoft-has-found-a-weakness-in-global-biosecurity-systems
Khi AI giúp con người… phát hiện ra chính lỗ hổng an ninh sinh học của mình
Những gì nhóm nghiên cứu của Microsoft tìm thấy giống như một lời cảnh tỉnh. Trong khi thế giới đang mải mê nói về AI viết nhạc, vẽ tranh hay viết mã, thì ở phòng thí nghiệm, AI đã cho thấy khả năng đáng sợ hơn nhiều: thiết kế lại protein độc hại mà hệ thống sàng lọc hiện tại không phát hiện ra.Nghiên cứu được công bố trên tạp chí Science cho thấy các công cụ thiết kế protein AI nguồn mở có thể tạo ra hàng nghìn phiên bản biến thể của độc tố bằng cách thay đổi chuỗi axit amin. Điều đáng nói là chúng vẫn giữ nguyên cấu trúc, thậm chí cả khả năng hoạt động, nhưng lại vượt qua được các quy trình kiểm tra an toàn sinh học hiện nay.
Eric Horvitz, Giám đốc Khoa học của Microsoft, đã đặt ra một câu hỏi tưởng như chỉ để thử nghiệm: “Liệu AI có thể thiết kế lại protein độc hại mà vẫn qua mặt hệ thống sàng lọc hay không?”. Câu trả lời khiến ông và cả giới khoa học phải lạnh người: “Có. Và AI làm điều đó khá dễ dàng.”
Khi “đội đỏ” của an ninh sinh học ra tay
Từ phát hiện ấy, Microsoft đã mở một chiến dịch kéo dài 10 tháng, hợp tác với các công ty tổng hợp DNA để vá lại lỗ hổng. Nhóm của Eric Horvitz và Bruce Wittmann đã áp dụng cách tiếp cận “red team”, vốn quen thuộc trong an ninh mạng – để kiểm tra mức độ an toàn sinh học trong môi trường AI.
Kết quả cho thấy, phần mềm sàng lọc hiện nay quá yếu để nhận ra các biến thể “ngụy trang” của protein độc hại. Giống như một hệ thống bảo mật chỉ nhận ra tội phạm nếu họ mặc cùng bộ quần áo như hôm bị bắt lần trước.
Eric nhìn nhận rằng, thiết kế protein bằng AI là một bước tiến đáng kinh ngạc, nhưng tốc độ phát triển chóng mặt khiến việc kiểm soát trở thành thách thức thực sự. Ông nói: “Có nhiều cách AI có thể bị lạm dụng trong sinh học, và điều đó sẽ còn tiếp diễn. Chúng ta cần liên tục phát hiện và vá những lỗ hổng mới.”
Con dao hai lưỡi của công nghệ sinh học do AI dẫn dắt
Công nghệ thiết kế protein AI không chỉ phục vụ nghiên cứu khoa học cao cấp. Nó có thể giúp tạo ra enzyme trong chất tẩy rửa, thuốc giải độc nọc rắn, hay thậm chí mở ra hướng điều trị ung thư. Nhưng cùng lúc, nó cũng có thể bị lợi dụng để chế tạo những thứ nguy hiểm nhất loài người từng biết.Chính vì vậy, nghiên cứu này không nhằm gieo sợ hãi mà để nhấn mạnh một điều: con người phải học cách đi cùng AI một cách có trách nhiệm. Như Eric nói, “AI có thể mang lại những đột phá mang tính cách mạng trong sinh học và y học, nhưng chỉ khi chúng ta đảm bảo nó phục vụ con người chứ không phải ngược lại.”
Sau tất cả, điểm sáng lớn nhất không nằm ở phát hiện nguy hiểm, mà ở việc cộng đồng khoa học đã nhanh chóng ngồi lại cùng nhau. Microsoft và các công ty DNA đã hợp tác, xây dựng bản vá bảo mật hiện được áp dụng trên toàn cầu. Một ví dụ hiếm hoi cho thấy, khi công nghệ đi quá nhanh, con người vẫn có thể bắt kịp, nếu cùng nhau hành động.
Nếu AI có thể phát hiện ra lỗ hổng trong hệ thống an ninh sinh học của chính chúng ta, thì câu hỏi lớn hơn là: ai sẽ là người giám sát AI?
Nguồn bài viết: https://aimagazine.com/news/microsoft-has-found-a-weakness-in-global-biosecurity-systems
