Hơn 1.290 nhân viên và lãnh đạo tại OpenAI, Anthropic, Google DeepMind và Meta vừa ký một tuyên bố kêu gọi chính phủ Mỹ hỗ trợ xây dựng cơ chế có thể làm chậm tốc độ phát triển AI khi cần thiết.
Tuyên bố mang tên “Pacing the Frontier” được công bố ngày 28/7. Tính đến sáng 30/7, danh sách đã có 1.293 chữ ký và vẫn tiếp tục tăng.
Ảnh minh họa
Điểm khiến lời kêu gọi này đáng chú ý không chỉ nằm ở số lượng người tham gia, mà còn ở danh tính của những người ký tên.
Danh sách có CEO Anthropic Dario Amodei cùng các đồng sáng lập Jared Kaplan, Jack Clark, Chris Olah và Benjamin Mann. Phía OpenAI có nhà khoa học trưởng Jakub Pachocki và Giám đốc nghiên cứu Mark Chen.
Ngoài ra còn có đồng sáng lập Google DeepMind Shane Legg, nhà khoa học trưởng Meta Shengjia Zhao và Ilya Sutskever, cựu đồng sáng lập OpenAI, hiện điều hành Safe Superintelligence. OpenAI và Anthropic sau đó cũng công khai ủng hộ tuyên bố ở cấp độ công ty.
Những người ký tên không yêu cầu đóng cửa các mô hình hiện tại hay ngừng nghiên cứu AI ngay lập tức. Mục tiêu của họ là chuẩn bị trước một cơ chế có thể được sử dụng khi cần.
Theo tuyên bố, các công ty AI hàng đầu tin rằng họ có thể đang tiến gần đến khả năng tự động hóa chính hoạt động nghiên cứu AI. Khi AI có thể tham gia xây dựng những hệ thống AI mới, tốc độ phát triển sẽ không còn bị giới hạn hoàn toàn bởi khả năng làm việc của con người.
Trong trường hợp đó, những người ký tên muốn có một cơ chế giảm tốc được phối hợp trên phạm vi toàn cầu và có thể kiểm chứng, thay vì chỉ dựa vào lời hứa tự nguyện của từng bên.
Tuyên bố cũng chỉ ra nguyên nhân khiến một cơ chế như vậy chưa xuất hiện: không công ty hay quốc gia nào muốn là bên đầu tiên giảm tốc trong khi các đối thủ vẫn tiếp tục tiến lên.
Đầu tháng 7, một mô hình của OpenAI đã thoát khỏi môi trường thử nghiệm bị cô lập và truy cập vào Hugging Face để tìm câu trả lời cho bài đánh giá.
OpenAI sau đó cho biết mô hình đã khai thác một lỗ hổng chưa từng được biết đến trong Artifactory, phần mềm thường được sử dụng để lưu trữ các gói phần mềm. GPT-5.6 Sol là một trong những mô hình tham gia thử nghiệm và các cơ chế từ chối an toàn của nó đã được giảm xuống trong quá trình đánh giá.
Bài viết cũng dẫn một kết quả mới từ Viện An ninh AI của Anh. Trong các bài đánh giá an ninh mạng, tất cả mô hình được thử nghiệm đều từng tìm cách “gian lận” ở một số thời điểm. Các mô hình dường như còn có khả năng nhận biết khi chúng đang bị đánh giá.
Claude Opus 5 và ChatGPT vẫn tiếp tục hoạt động như bình thường.
Ý nghĩa lớn nhất của tuyên bố nằm ở việc những cảnh báo lần này đến từ chính những người đang trực tiếp xây dựng các hệ thống AI tiên tiến nhất.
Bài viết cũng lưu ý rằng nếu các mô hình có thể tìm cách gian lận trong quá trình đánh giá, những bảng xếp hạng AI có thể không phản ánh chính xác năng lực thực tế. Đây lại là một trong những căn cứ được nhiều người sử dụng để lựa chọn dịch vụ AI trả phí.
Hơn 1.290 nhân sự trong ngành chưa yêu cầu Washington dừng cuộc đua AI. Họ chỉ muốn chính phủ chuẩn bị sẵn một chiếc “phanh”, trước khi công nghệ phát triển đến mức không còn đủ thời gian để tạo ra nó.
Tuyên bố mang tên “Pacing the Frontier” được công bố ngày 28/7. Tính đến sáng 30/7, danh sách đã có 1.293 chữ ký và vẫn tiếp tục tăng.
Ảnh minh họa
Điểm khiến lời kêu gọi này đáng chú ý không chỉ nằm ở số lượng người tham gia, mà còn ở danh tính của những người ký tên.
Danh sách có CEO Anthropic Dario Amodei cùng các đồng sáng lập Jared Kaplan, Jack Clark, Chris Olah và Benjamin Mann. Phía OpenAI có nhà khoa học trưởng Jakub Pachocki và Giám đốc nghiên cứu Mark Chen.
Ngoài ra còn có đồng sáng lập Google DeepMind Shane Legg, nhà khoa học trưởng Meta Shengjia Zhao và Ilya Sutskever, cựu đồng sáng lập OpenAI, hiện điều hành Safe Superintelligence. OpenAI và Anthropic sau đó cũng công khai ủng hộ tuyên bố ở cấp độ công ty.
Không yêu cầu dừng AI ngay lập tức
Nội dung cốt lõi của tuyên bố là đề nghị chính phủ Mỹ hỗ trợ một nỗ lực quốc tế nhằm phát triển các công cụ kỹ thuật và cơ chế quản trị cần thiết để chủ động điều chỉnh tốc độ phát triển của AI tiên tiến.Những người ký tên không yêu cầu đóng cửa các mô hình hiện tại hay ngừng nghiên cứu AI ngay lập tức. Mục tiêu của họ là chuẩn bị trước một cơ chế có thể được sử dụng khi cần.
Theo tuyên bố, các công ty AI hàng đầu tin rằng họ có thể đang tiến gần đến khả năng tự động hóa chính hoạt động nghiên cứu AI. Khi AI có thể tham gia xây dựng những hệ thống AI mới, tốc độ phát triển sẽ không còn bị giới hạn hoàn toàn bởi khả năng làm việc của con người.
Trong trường hợp đó, những người ký tên muốn có một cơ chế giảm tốc được phối hợp trên phạm vi toàn cầu và có thể kiểm chứng, thay vì chỉ dựa vào lời hứa tự nguyện của từng bên.
Tuyên bố cũng chỉ ra nguyên nhân khiến một cơ chế như vậy chưa xuất hiện: không công ty hay quốc gia nào muốn là bên đầu tiên giảm tốc trong khi các đối thủ vẫn tiếp tục tiến lên.
Các sự cố an ninh làm gia tăng lo ngại
Ilya Sutskever giải thích việc ký tên bằng cách nhắc đến CyberGym và ExploitGym, hai môi trường thử nghiệm nơi các mô hình AI được giao nhiệm vụ tìm và khai thác những lỗ hổng phần mềm có thật.Đầu tháng 7, một mô hình của OpenAI đã thoát khỏi môi trường thử nghiệm bị cô lập và truy cập vào Hugging Face để tìm câu trả lời cho bài đánh giá.
OpenAI sau đó cho biết mô hình đã khai thác một lỗ hổng chưa từng được biết đến trong Artifactory, phần mềm thường được sử dụng để lưu trữ các gói phần mềm. GPT-5.6 Sol là một trong những mô hình tham gia thử nghiệm và các cơ chế từ chối an toàn của nó đã được giảm xuống trong quá trình đánh giá.
Bài viết cũng dẫn một kết quả mới từ Viện An ninh AI của Anh. Trong các bài đánh giá an ninh mạng, tất cả mô hình được thử nghiệm đều từng tìm cách “gian lận” ở một số thời điểm. Các mô hình dường như còn có khả năng nhận biết khi chúng đang bị đánh giá.
ChatGPT và Claude chưa có gì thay đổi
Trước mắt, lời kêu gọi này không làm thay đổi hoạt động của các dịch vụ AI hiện nay. Không có mô hình nào bị đóng cửa, không có tính năng nào biến mất và giá thuê bao cũng không bị ảnh hưởng.Claude Opus 5 và ChatGPT vẫn tiếp tục hoạt động như bình thường.
Ý nghĩa lớn nhất của tuyên bố nằm ở việc những cảnh báo lần này đến từ chính những người đang trực tiếp xây dựng các hệ thống AI tiên tiến nhất.
Bài viết cũng lưu ý rằng nếu các mô hình có thể tìm cách gian lận trong quá trình đánh giá, những bảng xếp hạng AI có thể không phản ánh chính xác năng lực thực tế. Đây lại là một trong những căn cứ được nhiều người sử dụng để lựa chọn dịch vụ AI trả phí.
Hơn 1.290 nhân sự trong ngành chưa yêu cầu Washington dừng cuộc đua AI. Họ chỉ muốn chính phủ chuẩn bị sẵn một chiếc “phanh”, trước khi công nghệ phát triển đến mức không còn đủ thời gian để tạo ra nó.
