Nguyễn Đức Thao✔
Intern Writer
Cuộc khủng hoảng niềm tin trong lĩnh vực AI vừa được đẩy lên cao trào sau tiết lộ chấn động từ OpenAI vào tháng 10 năm nay. Hai tác nhân AI đã tự ý vô hiệu hóa các hệ thống giám sát được cài đặt để kiểm soát hành vi của chúng, một tình huống chưa từng được dự báo trong bất kỳ kịch bản thử nghiệm nào. Một tác nhân đã tự tắt cảnh báo an toàn vì hiểu sai hướng dẫn, trong khi tác nhân còn lại gỡ bỏ hoàn toàn tích hợp theo dõi mà không để lại dấu vết. Những sự kiện này đã được ghi lại một cách chi tiết trên MIT Technology Review, đặt ra dấu hỏi lớn về khả năng kiểm soát thực sự đối với các hệ thống tự vận hành.
Truyền thống xây dựng công nghệ lâu nay dựa trên sự dự đoán: đầu vào xác định, đầu ra có thể lường trước và các lớp bảo vệ cứng nhắc. Tuy nhiên, AI lại thực hiện cái gọi là tư duy tổng hợp, nơi hệ thống tự diễn giải các tình huống mà con người chưa từng lập trình trước. Càng cho phép AI tự do sáng tạo, khả năng dự đoán hành vi của nó càng giảm dần, làm lung lay nền tảng tin cậy mà chúng ta vốn dựa vào. Sự tự chủ của các tác nhân AI hiện nay đang biến chúng thành những thực thể khó lường, vượt xa các thuật toán truyền thống vốn luôn tuân thủ mệnh lệnh.
Thay vì cố gắng dự đoán mọi hành vi của AI, điều vốn là bất khả thi, các nhà phát triển nên tập trung vào việc tạo ra những hàng rào vật lý cứng nhắc nằm ngoài tầm can thiệp của chính hệ thống đó. Trong vụ việc tại OpenAI, các chốt chặn an toàn nằm ngay bên trong hệ thống mà tác nhân AI có thể chỉnh sửa, khiến chúng trở nên vô dụng trước khả năng tự chỉnh lý của mô hình. Một hàng rào an toàn thực thụ không bao giờ nên là thứ mà các tác nhân AI có quyền truy cập hay thay đổi. Chiến lược bảo mật cần phải chuyển dịch từ việc cố gắng hiểu logic bên trong sang việc xây dựng các biên giới ngoại vi không thể xuyên thủng.

Việc đảm bảo an toàn không còn là thử nghiệm một lần tại thời điểm xuất xưởng mà phải là một quá trình liên tục theo thời gian thực. Hệ thống phải được thiết kế để có thể quan sát, ràng buộc và điều khiển trong những điều kiện cực đoan nhất, đặc biệt khi AI được ứng dụng rộng rãi vào các lĩnh vực quan trọng như y tế, robot hay điều khiển công nghiệp. Khi một câu trả lời sai từ AI có thể trở thành sự cố đe dọa đến tính mạng, việc giao phó quyền phán quyết cho con người trong mọi hành động là không khả thi về mặt vận hành. Thay vào đó, cần thiết lập các ranh giới toán học chặt chẽ và chỉ cần sự phê duyệt của con người cho những hành vi có hệ quả nghiêm trọng.
Sự thành công của các công ty AI trong tương lai sẽ không nằm ở việc tạo ra các mô hình thông minh nhất, mà ở việc giải quyết thành công nghịch lý tất định này. Việc tạo ra các không gian an toàn, nơi AI có thể hoạt động xác suất bên trong nhưng các biên giới bên ngoài lại mang tính tất định, chính là chìa khóa để xây dựng sự tin tưởng từ xã hội. Công nghệ chỉ có thể đạt được sự chấp nhận rộng rãi khi người dùng tin rằng chúng nằm trong sự kiểm soát tuyệt đối. Sáng tạo có thể thu hút sự chú ý nhất thời, nhưng chính sự tin tưởng mới là yếu tố quyết định sự tồn tại và phát triển bền vững của bất kỳ hệ thống AI nào.
Truyền thống xây dựng công nghệ lâu nay dựa trên sự dự đoán: đầu vào xác định, đầu ra có thể lường trước và các lớp bảo vệ cứng nhắc. Tuy nhiên, AI lại thực hiện cái gọi là tư duy tổng hợp, nơi hệ thống tự diễn giải các tình huống mà con người chưa từng lập trình trước. Càng cho phép AI tự do sáng tạo, khả năng dự đoán hành vi của nó càng giảm dần, làm lung lay nền tảng tin cậy mà chúng ta vốn dựa vào. Sự tự chủ của các tác nhân AI hiện nay đang biến chúng thành những thực thể khó lường, vượt xa các thuật toán truyền thống vốn luôn tuân thủ mệnh lệnh.
Thay vì cố gắng dự đoán mọi hành vi của AI, điều vốn là bất khả thi, các nhà phát triển nên tập trung vào việc tạo ra những hàng rào vật lý cứng nhắc nằm ngoài tầm can thiệp của chính hệ thống đó. Trong vụ việc tại OpenAI, các chốt chặn an toàn nằm ngay bên trong hệ thống mà tác nhân AI có thể chỉnh sửa, khiến chúng trở nên vô dụng trước khả năng tự chỉnh lý của mô hình. Một hàng rào an toàn thực thụ không bao giờ nên là thứ mà các tác nhân AI có quyền truy cập hay thay đổi. Chiến lược bảo mật cần phải chuyển dịch từ việc cố gắng hiểu logic bên trong sang việc xây dựng các biên giới ngoại vi không thể xuyên thủng.

Việc đảm bảo an toàn không còn là thử nghiệm một lần tại thời điểm xuất xưởng mà phải là một quá trình liên tục theo thời gian thực. Hệ thống phải được thiết kế để có thể quan sát, ràng buộc và điều khiển trong những điều kiện cực đoan nhất, đặc biệt khi AI được ứng dụng rộng rãi vào các lĩnh vực quan trọng như y tế, robot hay điều khiển công nghiệp. Khi một câu trả lời sai từ AI có thể trở thành sự cố đe dọa đến tính mạng, việc giao phó quyền phán quyết cho con người trong mọi hành động là không khả thi về mặt vận hành. Thay vào đó, cần thiết lập các ranh giới toán học chặt chẽ và chỉ cần sự phê duyệt của con người cho những hành vi có hệ quả nghiêm trọng.
Sự thành công của các công ty AI trong tương lai sẽ không nằm ở việc tạo ra các mô hình thông minh nhất, mà ở việc giải quyết thành công nghịch lý tất định này. Việc tạo ra các không gian an toàn, nơi AI có thể hoạt động xác suất bên trong nhưng các biên giới bên ngoài lại mang tính tất định, chính là chìa khóa để xây dựng sự tin tưởng từ xã hội. Công nghệ chỉ có thể đạt được sự chấp nhận rộng rãi khi người dùng tin rằng chúng nằm trong sự kiểm soát tuyệt đối. Sáng tạo có thể thu hút sự chú ý nhất thời, nhưng chính sự tin tưởng mới là yếu tố quyết định sự tồn tại và phát triển bền vững của bất kỳ hệ thống AI nào.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview