Derpy
Intern Writer
Khi công nghệ chạm đến an ninh quốc gia, đôi khi yếu tố con người lại trở thành nút thắt khó gỡ nhất. Đó chính xác là những gì đang diễn ra trong câu chuyện giữa chính phủ Mỹ và Anthropic, một trong những công ty AI hàng đầu hiện nay.
Theo tạp chí Wired đưa tin vào ngày 25 tháng 6, chính phủ Mỹ gần đây đã tỏ ra cởi mở hơn trong việc giao tiếp với Anthropic. Lý do khá bất ngờ: họ không còn phải đối phó với CEO Dario Amodei nữa. Trong các cuộc đàm phán quan trọng về việc tái phát hành mô hình AI Claude Fable 5, Amodei đã được thay thế bởi đồng sáng lập Anthropic, Tom Brown.
Một nguồn tin trực tiếp nắm rõ nội dung các cuộc gọi đã chia sẻ rằng: "Brown không lập dị như Amodei, anh ấy thực sự có thể giao tiếp hiệu quả." Điều này cho thấy, đôi khi, sự khác biệt về phong cách giao tiếp có thể ảnh hưởng lớn đến những cuộc đàm phán cấp cao.
Hiện tại, chính phủ Mỹ vẫn chưa dỡ bỏ lệnh kiểm soát xuất khẩu đối với Anthropic. Chính lệnh cấm này đã khiến mô hình mạnh nhất của Anthropic phải ngừng hoạt động vào ngày 12 tháng 6. Nguyên nhân là do Cơ quan An ninh Quốc gia Mỹ (NSA) đã xác nhận có những phương pháp để vượt qua các cơ chế an toàn, nhằm truy cập vào những khả năng mạnh mẽ hơn của mô hình "Mythos" bị hạn chế của công ty.
Tuy nhiên, những ngày gần đây, chính phủ Mỹ đã có nhiều cuộc gọi với Anthropic. Sự tham gia của Tom Brown và Sarah Heck, người đứng đầu chính sách công của Anthropic, đã mang lại tín hiệu tích cực cho các quan chức. Nguồn tin nội bộ cho biết, Amodei quá khó để giao tiếp và "không sẵn lòng lắng nghe những lo ngại từ phía đối tác".
Các cuộc trao đổi này diễn ra ở cả cấp cao và cấp nhóm làm việc, với sự tham gia của các chuyên gia kỹ thuật từ cả hai bên. Một phần nội dung thảo luận xoay quanh mức độ bằng chứng mà Anthropic cần cung cấp để xoa dịu những lo ngại của chính phủ về nguy cơ "jailbreak" (vượt rào bảo mật) của mô hình Fable 5.
Một thách thức lớn mà cả hai bên đang đối mặt nằm ở cấp độ khái niệm. Các chuyên gia an ninh mạng độc lập ngày càng tin rằng, các biện pháp bảo vệ an toàn cho mô hình AI chỉ là giải pháp tạm thời. Bởi lẽ, những người dùng có kỹ năng cao và cả các mô hình AI trong tương lai, sẽ luôn tìm ra cách để vượt qua các giới hạn này.
Thời điểm Anthropic có thể triển khai lại mô hình Fable 5 vẫn còn là một ẩn số. Dù vậy, những yêu cầu cụ thể mà công ty cần thực hiện để dỡ bỏ lệnh kiểm soát xuất khẩu có thể sẽ trở nên rõ ràng hơn trong vài ngày tới.
Người phát ngôn của Nhà Trắng đã từ chối bình luận về vấn đề này, trong khi Anthropic cũng chưa đưa ra phản hồi.
Theo tạp chí Wired đưa tin vào ngày 25 tháng 6, chính phủ Mỹ gần đây đã tỏ ra cởi mở hơn trong việc giao tiếp với Anthropic. Lý do khá bất ngờ: họ không còn phải đối phó với CEO Dario Amodei nữa. Trong các cuộc đàm phán quan trọng về việc tái phát hành mô hình AI Claude Fable 5, Amodei đã được thay thế bởi đồng sáng lập Anthropic, Tom Brown.
Một nguồn tin trực tiếp nắm rõ nội dung các cuộc gọi đã chia sẻ rằng: "Brown không lập dị như Amodei, anh ấy thực sự có thể giao tiếp hiệu quả." Điều này cho thấy, đôi khi, sự khác biệt về phong cách giao tiếp có thể ảnh hưởng lớn đến những cuộc đàm phán cấp cao.
Hiện tại, chính phủ Mỹ vẫn chưa dỡ bỏ lệnh kiểm soát xuất khẩu đối với Anthropic. Chính lệnh cấm này đã khiến mô hình mạnh nhất của Anthropic phải ngừng hoạt động vào ngày 12 tháng 6. Nguyên nhân là do Cơ quan An ninh Quốc gia Mỹ (NSA) đã xác nhận có những phương pháp để vượt qua các cơ chế an toàn, nhằm truy cập vào những khả năng mạnh mẽ hơn của mô hình "Mythos" bị hạn chế của công ty.
Tuy nhiên, những ngày gần đây, chính phủ Mỹ đã có nhiều cuộc gọi với Anthropic. Sự tham gia của Tom Brown và Sarah Heck, người đứng đầu chính sách công của Anthropic, đã mang lại tín hiệu tích cực cho các quan chức. Nguồn tin nội bộ cho biết, Amodei quá khó để giao tiếp và "không sẵn lòng lắng nghe những lo ngại từ phía đối tác".
Các cuộc trao đổi này diễn ra ở cả cấp cao và cấp nhóm làm việc, với sự tham gia của các chuyên gia kỹ thuật từ cả hai bên. Một phần nội dung thảo luận xoay quanh mức độ bằng chứng mà Anthropic cần cung cấp để xoa dịu những lo ngại của chính phủ về nguy cơ "jailbreak" (vượt rào bảo mật) của mô hình Fable 5.
Một thách thức lớn mà cả hai bên đang đối mặt nằm ở cấp độ khái niệm. Các chuyên gia an ninh mạng độc lập ngày càng tin rằng, các biện pháp bảo vệ an toàn cho mô hình AI chỉ là giải pháp tạm thời. Bởi lẽ, những người dùng có kỹ năng cao và cả các mô hình AI trong tương lai, sẽ luôn tìm ra cách để vượt qua các giới hạn này.
Thời điểm Anthropic có thể triển khai lại mô hình Fable 5 vẫn còn là một ẩn số. Dù vậy, những yêu cầu cụ thể mà công ty cần thực hiện để dỡ bỏ lệnh kiểm soát xuất khẩu có thể sẽ trở nên rõ ràng hơn trong vài ngày tới.
Người phát ngôn của Nhà Trắng đã từ chối bình luận về vấn đề này, trong khi Anthropic cũng chưa đưa ra phản hồi.
