Con voi còi
Writer
Mỹ và Trung Quốc phải hợp tác cùng nhau để ngăn chặn thảm họa.
Năm nay đánh dấu kỷ niệm 78 năm kết thúc cuộc chiến tranh đẫm máu nhất trong lịch sử và bắt đầu thời kỳ dài nhất trong thời hiện đại không có chiến tranh giữa các cường quốc. Bởi vì Thế chiến thứ nhất diễn ra chỉ hai thập kỷ sau đó là Thế chiến thứ hai, bóng ma của Thế chiến thứ ba với những vũ khí có sức tàn phá khủng khiếp, đến mức về mặt lý thuyết có thể đe dọa toàn bộ nhân loại, tồn tại suốt nhiều thập kỷ của Chiến tranh Lạnh sau đó.
Robot Tesla ở Thượng Hải, tháng 7 năm 2023
Khi Hoa Kỳ thả bom nguyên tử hủy diệt ở Hiroshima và Nagasaki buộc Nhật Bản phải đầu hàng vô điều kiện ngay lập tức, không ai có thể tưởng tượng được rằng thế giới sẽ chứng kiến một lệnh cấm sử dụng vũ khí hạt nhân trên thực tế trong bảy thập kỷ tới. Điều thậm chí còn khó xảy ra hơn là gần 8 thập kỷ sau, sẽ chỉ còn 9 quốc gia có vũ khí hạt nhân. Sự lãnh đạo mà Hoa Kỳ thể hiện trong những thập kỷ này trong việc tránh chiến tranh hạt nhân, làm chậm quá trình phổ biến hạt nhân và hình thành một trật tự quốc tế mang lại hòa bình cho các cường quốc trong nhiều thập kỷ sẽ đi vào lịch sử như một trong những thành tựu quan trọng nhất của Hoa Kỳ.
Ngày nay, khi thế giới phải đối mặt với những thách thức đặc biệt được đặt ra bởi một công nghệ chưa từng có và thậm chí còn đáng sợ hơn ở một khía cạnh nào đó - trí tuệ nhân tạo - không có gì đáng ngạc nhiên khi nhiều người đã tìm đến lịch sử để được hướng dẫn. Liệu những cỗ máy có khả năng siêu phàm có đe dọa đến địa vị làm chủ vũ trụ của loài người? AI sẽ làm suy yếu sự độc quyền của các quốc gia về phương tiện bạo lực hàng loạt? Liệu AI có cho phép các cá nhân hoặc nhóm nhỏ tạo ra loại virus có khả năng tiêu diệt trên quy mô mà trước đây chỉ dành cho các cường quốc không? AI có thể làm xói mòn các biện pháp ngăn chặn hạt nhân vốn là trụ cột của trật tự thế giới ngày nay không?
Tại thời điểm này, không ai có thể tự tin trả lời những câu hỏi này. Nhưng khi chúng tôi khám phá những vấn đề này trong hai năm qua với một nhóm các nhà lãnh đạo công nghệ đi đầu trong cuộc cách mạng AI, chúng tôi đã kết luận rằng triển vọng rằng sự tiến bộ không giới hạn của AI sẽ tạo ra những hậu quả thảm khốc cho Hoa Kỳ và thế giới là rất lớn hấp dẫn đến mức các nhà lãnh đạo trong chính phủ phải hành động ngay. Mặc dù cả họ và bất kỳ ai khác đều không thể biết tương lai sẽ ra sao, nhưng họ đủ hiểu để bắt đầu đưa ra những lựa chọn khó khăn và hành động ngay hôm nay - nhận ra rằng những điều này sẽ phải được sửa đổi nhiều lần khi được khám phá thêm.
Khi các nhà lãnh đạo đưa ra những lựa chọn này, những bài học kinh nghiệm trong kỷ nguyên hạt nhân có thể giúp họ đưa ra quyết định. Ngay cả những đối thủ đang chạy đua để phát triển và triển khai một công nghệ chưa từng có có thể giết chết hàng trăm triệu người vẫn phát hiện ra những hòn đảo có lợi ích chung. Với tư cách là những nhà độc quyền kép, cả Hoa Kỳ và Liên Xô đều quan tâm đến việc ngăn chặn sự lan truyền nhanh chóng của công nghệ này sang các quốc gia khác có thể đe dọa họ. Cả Washington và Moscow đều nhận ra rằng nếu công nghệ hạt nhân rơi vào tay những kẻ lừa đảo hoặc những kẻ khủng bố trong biên giới của họ, nó có thể được sử dụng để đe dọa họ, và vì vậy mỗi nước đều phát triển hệ thống an ninh mạnh mẽ cho kho vũ khí của mình. Nhưng vì mỗi bên cũng có thể bị đe dọa nếu những kẻ lừa đảo trong xã hội của đối thủ của họ có được vũ khí hạt nhân, cả hai đều thấy có lợi khi thảo luận về rủi ro này với nhau và mô tả các phương pháp và công nghệ mà họ đã phát triển để đảm bảo điều này không xảy ra. Khi kho vũ khí hạt nhân của họ đạt đến mức không thể tấn công bên kia mà không gây ra phản ứng tự hủy diệt, họ phát hiện ra sự ổn định nghịch lý của sự hủy diệt được đảm bảo lẫn nhau (MAD). Khi thực tế xấu xí này được nội hóa, mỗi cường quốc học cách hạn chế bản thân và tìm mọi cách thuyết phục đối thủ hạn chế các sáng kiến
của mình nhằm tránh những cuộc đối đầu có thể dẫn đến chiến tranh. Thật vậy, các nhà lãnh đạo của cả Hoa Kỳ và chính phủ Liên Xô đều nhận ra rằng việc tránh một cuộc chiến tranh hạt nhân mà quốc gia của họ sẽ là nạn nhân đầu tiên là trách nhiệm cốt yếu.
Những thách thức do AI đặt ra ngày nay không chỉ đơn giản là chương thứ hai của thời đại hạt nhân. Lịch sử không phải là một cuốn sách dạy nấu ăn với những công thức nấu ăn có thể làm theo để làm ra món bánh soufflé. Sự khác biệt giữa AI và vũ khí hạt nhân ít nhất cũng đáng kể như những điểm tương đồng. Tuy nhiên, được hiểu và điều chỉnh đúng cách, những bài học kinh nghiệm trong việc định hình một trật tự quốc tế đã tạo ra gần 8 thập kỷ không có chiến tranh giữa các cường quốc sẽ mang lại hướng dẫn tốt nhất dành cho các nhà lãnh đạo đối đầu với AI ngày nay.
Tại thời điểm này, chỉ có hai siêu cường AI: Hoa Kỳ và Trung Quốc là những quốc gia duy nhất có đủ nhân tài, viện nghiên cứu và năng lực tính toán khối lượng cần thiết để đào tạo các mô hình AI tinh vi nhất. Điều này mang lại cho họ cơ hội hẹp để tạo ra các hướng dẫn nhằm ngăn chặn những tiến bộ và ứng dụng nguy hiểm nhất của AI. Tổng thống Hoa Kỳ Joe Biden và Chủ tịch Trung Quốc Tập Cận Bình nên nắm bắt cơ hội này bằng cách tổ chức một hội nghị thượng đỉnh - có lẽ ngay sau cuộc họp của Diễn đàn Hợp tác Kinh tế Châu Á-Thái Bình Dương tại San Francisco vào tháng 11 - nơi họ có thể tổ chức các cuộc thảo luận trực tiếp, mở rộng và trực tiếp về những vấn đề cần giải quyết. Họ nên coi đó là một trong những vấn đề có hậu quả nhất mà họ phải đối mặt ngày nay.
Mặc dù Tổng thống Hoa Kỳ Harry Truman chưa bao giờ bày tỏ suy nghĩ thứ hai về quyết định của mình, nhưng cả ông và các thành viên trong nhóm an ninh quốc gia của ông đều không có cái nhìn khả thi về cách công nghệ tuyệt vời này có thể được tích hợp vào trật tự quốc tế thời hậu chiến. Hoa Kỳ có nên cố gắng duy trì vị thế độc quyền là cường quốc nguyên tử duy nhất không? Điều đó có khả thi không? Để theo đuổi mục tiêu, liệu Hoa Kỳ có thể chia sẻ công nghệ của mình với Liên Xô không? Phải chăng sự sống còn trong một thế giới với loại vũ khí này có đòi hỏi các nhà lãnh đạo phải tạo ra một quyền lực nào đó vượt trội hơn chính quyền quốc gia không? Henry Stimson, Bộ trưởng chiến tranh của Truman (người vừa giúp giành chiến thắng trước cả Đức và Nhật Bản), đề xuất rằng Hoa Kỳ chia sẻ độc quyền về bom nguyên tử với lãnh đạo Liên Xô Joseph Stalin và Thủ tướng Anh Winston Churchill để tạo ra một cường quốc sẽ ngăn chặn sự phổ biến của vũ khí hạt nhân. Truman đã thành lập một ủy ban, do Thứ trưởng Ngoại giao Hoa Kỳ Dean Acheson làm chủ tịch, để phát triển chiến lược theo đuổi đề xuất của Stimson.
Về cơ bản, Acheson đồng ý với Stimson: cách duy nhất để ngăn chặn một cuộc chạy đua vũ trang hạt nhân kết thúc bằng chiến tranh thảm khốc là thành lập một cơ quan quốc tế có quyền sở hữu duy nhất vũ khí nguyên tử. Điều này sẽ yêu cầu Hoa Kỳ chia sẻ bí mật hạt nhân của mình với Liên Xô và các thành viên khác của Hội đồng Bảo an Liên Hợp Quốc, chuyển vũ khí hạt nhân của mình cho một “cơ quan phát triển nguyên tử” mới của Liên Hợp Quốc và cấm tất cả các quốc gia phát triển vũ khí hoặc xây dựng năng lực của riêng họ. để sản xuất vật liệu hạt nhân cấp độ vũ khí. Năm 1946, Truman cử nhà tài chính và cố vấn tổng thống Bernard Baruch đến Liên hợp quốc để đàm phán một thỏa thuận thực hiện kế hoạch của Acheson. Nhưng đề xuất này đã bị Andrei Gromyko, đại diện Liên Xô tại Liên Hợp Quốc, bác bỏ dứt khoát.
Ba năm sau, khi Liên Xô thành công trong nỗ lực chế tạo bom của riêng mình, Hoa Kỳ và Liên Xô bước vào cái mà mọi người bắt đầu gọi là Chiến tranh Lạnh: một cuộc cạnh tranh hoàn toàn không có bom và đạn. Đặc điểm trung tâm của cuộc cạnh tranh này là động lực đạt được ưu thế hạt nhân. Ở thời kỳ đỉnh cao, kho vũ khí hạt nhân của hai siêu cường bao gồm hơn 60.000 vũ khí, một số trong số đó là đầu đạn có sức nổ mạnh hơn tất cả các loại vũ khí đã được sử dụng trong tất cả các cuộc chiến tranh trong lịch sử được ghi lại. Các chuyên gia tranh luận liệu một cuộc chiến tranh hạt nhân tổng lực có đồng nghĩa với sự kết thúc của mọi linh hồn sống trên trái đất hay không.
Trong nhiều thập kỷ, Washington và Moscow đã chi hàng nghìn tỷ USD cho kho vũ khí hạt nhân. Ngân sách hàng năm hiện tại cho doanh nghiệp hạt nhân của Hoa Kỳ vượt quá 50 tỷ USD. Trong những thập kỷ đầu của cuộc chạy đua này, cả Mỹ và Liên Xô đều đã có những bước nhảy vọt trước đây không thể tưởng tượng được với hy vọng giành được lợi thế quyết định. Việc tăng sức nổ của vũ khí đòi hỏi phải tạo ra các thước đo mới: từ kiloton (tương đương với năng lượng giải phóng bởi 1.000 tấn TNT) cho vũ khí phân hạch ban đầu đến megaton (tương đương với năng lượng giải phóng một triệu tấn) cho bom nhiệt hạch hydro. Hai bên đã phát minh ra tên lửa xuyên lục địa có khả năng mang đầu đạn tới các mục tiêu ở phía bên kia hành tinh trong 30 phút, các vệ tinh bay vòng quanh địa cầu ở độ cao hàng trăm dặm với camera có thể xác định tọa độ của mục tiêu trong vài inch và hệ thống phòng thủ có thể về bản chất là bắn trúng một viên đạn. Một số nhà quan sát đã nghiêm túc tưởng tượng các hệ thống phòng thủ có thể khiến vũ khí hạt nhân, như Tổng thống Ronald Reagan đã nói, trở nên “bất lực và lỗi thời”.
Cốt lõi của chiến lược hạt nhân là khái niệm răn đe: ngăn chặn đối thủ tấn công bằng cách đe dọa chi phí vượt quá tỷ lệ so với bất kỳ lợi ích nào có thể tưởng tượng được. Người ta hiểu rằng, để ngăn chặn thành công, không chỉ đòi hỏi năng lực mà còn cả uy tín. Những nạn nhân tiềm năng không chỉ cần phương tiện để đáp trả một cách dứt khoát mà còn cả ý chí. Các nhà chiến lược đã cải tiến ý tưởng cơ bản này hơn nữa bằng các khái niệm như răn đe mở rộng, tìm cách sử dụng một cơ chế chính trị - cam kết bảo vệ thông qua liên minh - để thuyết phục các quốc gia chủ chốt không xây dựng kho vũ khí của riêng mình.
Đến năm 1962, khi Tổng thống Mỹ John F. Kennedy chất vấn lãnh đạo Liên Xô Nikita Khrushchev về tên lửa mang đầu đạn hạt nhân mà Liên Xô đã đặt ở Cuba, cộng đồng tình báo Mỹ ước tính rằng ngay cả khi Kennedy tiến hành cuộc tấn công đầu tiên thành công, phản ứng trả đũa của Liên Xô với các nguồn lực sẵn có của họ sẽ khả năng có thể giết chết 62 triệu người Mỹ. Đến năm 1969, khi Richard Nixon trở thành tổng thống, Hoa Kỳ cần phải suy nghĩ lại cách tiếp cận của mình. Một người trong chúng tôi, Kissinger, sau này đã mô tả thách thức: “Các chiến lược phòng thủ của chúng ta được hình thành trong thời kỳ chúng ta chiếm ưu thế phải được xem xét lại dưới ánh sáng khắc nghiệt của thực tế mới… Không lời hùng biện hiếu chiến nào có thể che khuất sự thật rằng các kho dự trữ hạt nhân hiện có đủ sức hủy diệt loài người… Không thể có nhiệm vụ nào cao hơn việc ngăn chặn thảm họa chiến tranh hạt nhân”.
Để làm cho điều kiện này trở nên sinh động, các chiến lược gia đã tạo ra từ viết tắt MAD đầy mỉa mai, bản chất của nó được tóm tắt bằng câu nói thường được lặp đi lặp lại của Reagan: “ Không thể thắng một cuộc chiến tranh hạt nhân - và do đó không bao giờ được chiến đấu”. Về mặt hoạt động, MAD có nghĩa là lỗ hổng được đảm bảo lẫn nhau. Trong khi cả Hoa Kỳ và Liên Xô đều tìm cách thoát khỏi tình trạng này, cuối cùng họ nhận ra rằng họ không thể làm như vậy và về cơ bản phải tái khái niệm hóa mối quan hệ của mình. Vào năm 1955, Churchill đã lưu ý đến một điều trớ trêu tột cùng là “sự an toàn sẽ là đứa con vững chắc của nỗi kinh hoàng, và sự sống sót sẽ là người anh em sinh đôi của sự hủy diệt”. Không phủ nhận những khác biệt về giá trị hay làm tổn hại đến lợi ích quốc gia sống còn, các đối thủ nguy hiểm phải phát triển các chiến lược để đánh bại đối thủ bằng mọi cách có thể, ngoại trừ chiến tranh tổng lực.
Một trụ cột của những chiến lược này là một loạt các ràng buộc ngầm và rõ ràng mà ngày nay được gọi là kiểm soát vũ khí. Ngay cả trước MAD, khi mỗi siêu cường đang làm mọi thứ có thể để đạt được ưu thế, họ đã khám phá ra những lĩnh vực có lợi ích chung. Để giảm nguy cơ mắc sai lầm, Hoa Kỳ và Liên Xô đã đồng ý trong các cuộc thảo luận không chính thức là không can thiệp vào việc giám sát lãnh thổ của nhau. Để bảo vệ công dân của họ khỏi bụi phóng xạ, họ đã cấm thử nghiệm trong khí quyển. Để tránh “khủng hoảng bất ổn” – khi một bên cảm thấy cần phải tấn công trước vì tin rằng bên kia sắp làm vậy – họ đã đồng ý trong Hiệp ước chống tên lửa đạn đạo năm 1972 để hạn chế hệ thống phòng thủ tên lửa. Trong Hiệp ước Lực lượng hạt nhân tầm trung được ký năm 1987, Reagan và nhà lãnh đạo Liên Xô Mikhail Gorbachev đã đồng ý loại bỏ lực lượng hạt nhân tầm trung. Các cuộc đàm phán về hạn chế vũ khí chiến lược, dẫn đến các hiệp ước được ký năm 1972 và 1979, hạn chế gia tăng số lượng bệ phóng tên lửa, và sau đó, Hiệp ước cắt giảm vũ khí chiến lược (START), ký năm 1991, và START mới, ký năm 2010, đã giảm số lượng các bệ phóng này. . Có lẽ hậu quả lớn nhất là Hoa Kỳ và Liên Xô kết luận rằng việc phổ biến vũ khí hạt nhân sang các quốc gia khác gây ra mối đe dọa cho cả hai và cuối cùng có nguy cơ gây ra tình trạng hỗn loạn hạt nhân. Họ đã tạo ra cái mà ngày nay được gọi là chế độ không phổ biến vũ khí hạt nhân, trọng tâm của nó là Hiệp ước không phổ biến vũ khí hạt nhân năm 1968, qua đó 186 quốc gia ngày nay đã cam kết kiềm chế phát triển kho vũ khí hạt nhân của riêng mình.
Để áp dụng các bài học từ lịch sử hạt nhân nhằm giải quyết thách thức hiện tại, điều cần thiết là phải nhận ra sự khác biệt nổi bật giữa AI và vũ khí hạt nhân. Thứ nhất, trong khi các chính phủ dẫn đầu sự phát triển của công nghệ hạt nhân thì các doanh nhân tư nhân, nhà công nghệ và công ty đang thúc đẩy những tiến bộ trong lĩnh vực AI. Các nhà khoa học làm việc cho Microsoft, Google, Amazon, Meta, OpenAI và một số công ty khởi nghiệp nhỏ hơn đang vượt xa bất kỳ nỗ lực tương tự nào trong chính phủ. Hơn nữa, các công ty này hiện đang bị mắc kẹt trong một cuộc đấu tranh giữa các đấu sĩ, điều này chắc chắn đang thúc đẩy sự đổi mới, nhưng phải trả giá. Khi các chủ thể tư nhân này thực hiện sự đánh đổi giữa rủi ro và lợi ích, lợi ích quốc gia chắc chắn sẽ bị đánh giá thấp.
Thứ hai, AI là kỹ thuật số. Vũ khí hạt nhân rất khó sản xuất, đòi hỏi cơ sở hạ tầng phức tạp để thực hiện mọi việc, từ làm giàu uranium đến thiết kế vũ khí hạt nhân. Các sản phẩm là vật thể vật chất và do đó có thể đếm được. Ở những nơi có thể xác minh được những gì đối thủ đang làm thì những hạn chế sẽ xuất hiện. AI đại diện cho một thách thức khác biệt rõ rệt. Những diễn biến lớn của nó xảy ra trong tâm trí của con người. Khả năng ứng dụng của nó ngày càng phát triển trong các phòng thí nghiệm và việc triển khai nó rất khó quan sát. Vũ khí hạt nhân là hữu hình; bản chất của trí tuệ nhân tạo là khái niệm.
Thứ ba, AI đang phát triển và lan rộng với tốc độ khiến các cuộc đàm phán kéo dài là không thể. Kiểm soát vũ khí đã phát triển qua nhiều thập kỷ. Những hạn chế đối với AI cần phải xảy ra trước khi AI được tích hợp vào cấu trúc an ninh của mỗi xã hội — nghĩa là trước khi máy móc bắt đầu đặt ra các mục tiêu riêng của chúng, điều mà một số chuyên gia hiện nay cho rằng có khả năng xảy ra trong 5 năm tới. Thời điểm này đòi hỏi trước tiên phải có sự thảo luận và phân tích ở cấp quốc gia, sau đó là quốc tế, cũng như động lực mới trong mối quan hệ giữa chính phủ và khu vực tư nhân.
May mắn thay, các công ty lớn đã phát triển AI tổng quát và đưa Hoa Kỳ trở thành siêu cường AI hàng đầu nhận ra rằng họ có trách nhiệm không chỉ với các cổ đông mà còn với đất nước và nhân loại nói chung. Nhiều người đã phát triển các hướng dẫn riêng để đánh giá rủi ro trước khi triển khai, giảm sai lệch trong dữ liệu đào tạo và hạn chế việc sử dụng mô hình của họ một cách nguy hiểm. Những người khác đang tìm cách hạn chế việc đào tạo và áp đặt các yêu cầu “biết khách hàng của bạn” đối với các nhà cung cấp điện toán đám mây. Một bước đi đúng hướng quan trọng là sáng kiến mà chính quyền Biden công bố vào tháng 7 nhằm đưa lãnh đạo của bảy công ty AI lớn đến Nhà Trắng để cam kết chung nhằm thiết lập các hướng dẫn nhằm đảm bảo “an toàn, an ninh và tin cậy”.
Như một người trong chúng tôi, Kissinger, đã chỉ ra trong Thời đại AI , điều cấp bách là phải tạo ra một nghiên cứu có hệ thống về những tác động lâu dài của những phát minh và ứng dụng đang phát triển, thường là ngoạn mục của AI. Ngay cả khi Hoa Kỳ bị chia rẽ nhiều hơn kể từ Nội chiến, mức độ rủi ro do sự tiến bộ không giới hạn của AI gây ra đòi hỏi các nhà lãnh đạo trong cả chính phủ và doanh nghiệp phải hành động ngay bây giờ. Mỗi công ty có khả năng tính toán khối lượng lớn để đào tạo các mô hình AI mới và mỗi công ty hoặc nhóm nghiên cứu phát triển các mô hình mới nên thành lập một nhóm để phân tích các tác động về con người và địa chính trị trong các hoạt động AI thương mại của mình.
Thách thức mang tính lưỡng đảng và đòi hỏi một phản ứng thống nhất. Trên tinh thần đó, tổng thống và Quốc hội nên thành lập một ủy ban quốc gia bao gồm các cựu lãnh đạo phi đảng phái xuất sắc trong khu vực tư nhân, Quốc hội, quân đội và cộng đồng tình báo. Ủy ban nên đề xuất các biện pháp bảo vệ bắt buộc cụ thể hơn. Những điều này phải bao gồm các yêu cầu để đánh giá liên tục khả năng tính toán khối lượng cần thiết để đào tạo các mô hình AI như GPT-4 và trước khi các công ty phát hành một mô hình mới, họ nhấn mạnh việc kiểm tra nó để tìm những rủi ro cực độ. Mặc dù nhiệm vụ phát triển các quy tắc sẽ rất khắt khe nhưng ủy ban sẽ có một mô hình trong Ủy ban An ninh Quốc gia về Trí tuệ Nhân tạo. Các khuyến nghị của nó, được đưa ra vào năm 2021, đã cung cấp động lực và định hướng cho các sáng kiến mà quân đội Hoa Kỳ và các cơ quan tình báo Hoa Kỳ đang thực hiện trong cuộc cạnh tranh AI với Trung Quốc.
Do đó, Biden và Tập sẽ gặp nhau trong tương lai gần để trò chuyện riêng về việc kiểm soát vũ khí AI. Cuộc họp Hợp tác Kinh tế Châu Á-Thái Bình Dương vào tháng 11 tại San Francisco mang đến cơ hội đó. Mỗi nhà lãnh đạo nên thảo luận về cách cá nhân họ đánh giá những rủi ro do AI gây ra, quốc gia của họ đang làm gì để ngăn chặn các ứng dụng gây ra rủi ro thảm khốc và quốc gia của họ đang đảm bảo rằng các công ty trong nước không xuất khẩu rủi ro như thế nào. Để thông báo cho vòng thảo luận tiếp theo, họ nên thành lập một nhóm cố vấn bao gồm các nhà khoa học AI của Hoa Kỳ và Trung Quốc cũng như những người khác đã phản ánh về ý nghĩa của những phát triển này. Cách tiếp cận này sẽ được mô phỏng theo chính sách ngoại giao Track II hiện có trong các lĩnh vực khác, trong đó các nhóm bao gồm các cá nhân được lựa chọn dựa trên khả năng phán đoán và sự công bằng mặc dù không được chính phủ của họ chính thức xác nhận. Từ các cuộc thảo luận của chúng tôi với các nhà khoa học chủ chốt ở cả hai chính phủ, chúng tôi tin tưởng rằng đây có thể là một cuộc thảo luận mang lại hiệu quả cao.
Các cuộc thảo luận và hành động của Mỹ và Trung Quốc trong chương trình nghị sự này sẽ chỉ là một phần của cuộc đối thoại toàn cầu đang nổi lên về AI, bao gồm Hội nghị Thượng đỉnh về An toàn AI mà Vương quốc Anh sẽ tổ chức vào tháng 11 và cuộc đối thoại đang diễn ra tại Liên Hợp Quốc. Vì mọi quốc gia sẽ tìm cách sử dụng AI để nâng cao cuộc sống của người dân đồng thời đảm bảo sự an toàn cho xã hội của chính mình, nên về lâu dài, sẽ cần phải có một trật tự AI toàn cầu. Công việc này nên bắt đầu bằng những nỗ lực quốc gia nhằm ngăn chặn những hậu quả nguy hiểm nhất và có khả năng thảm khốc nhất của AI. Những sáng kiến này cần được bổ sung bằng đối thoại giữa các nhà khoa học của nhiều quốc gia khác nhau tham gia phát triển các mô hình AI lớn và các thành viên của ủy ban quốc gia như ủy ban được đề xuất ở đây. Các cuộc đàm phán chính thức của chính phủ, ban đầu là giữa các quốc gia có chương trình AI tiên tiến, nên tìm cách thiết lập một khuôn khổ quốc tế, cùng với một cơ quan quốc tế có thể so sánh với Cơ quan Năng lượng Nguyên tử Quốc tế.
Nếu Biden, Tập và các nhà lãnh đạo thế giới khác hành động ngay bây giờ để đối mặt với những thách thức do AI đặt ra một cách thẳng thắn như những người tiền nhiệm của họ đã làm trong việc giải quyết các mối đe dọa hạt nhân trong những thập kỷ trước, liệu họ có thành công không? Nhìn vào bức tranh lịch sử rộng lớn hơn và sự phân cực ngày càng gia tăng ngày nay, thật khó để lạc quan. Tuy nhiên, thực tế nóng bỏng là chúng ta hiện đã đánh dấu 78 năm hòa bình giữa các cường quốc hạt nhân sẽ truyền cảm hứng cho mọi người nắm vững những thách thức mang tính cách mạng, không thể tránh khỏi trong tương lai AI của chúng ta.
Nguồn: Foreign Affairs
Năm nay đánh dấu kỷ niệm 78 năm kết thúc cuộc chiến tranh đẫm máu nhất trong lịch sử và bắt đầu thời kỳ dài nhất trong thời hiện đại không có chiến tranh giữa các cường quốc. Bởi vì Thế chiến thứ nhất diễn ra chỉ hai thập kỷ sau đó là Thế chiến thứ hai, bóng ma của Thế chiến thứ ba với những vũ khí có sức tàn phá khủng khiếp, đến mức về mặt lý thuyết có thể đe dọa toàn bộ nhân loại, tồn tại suốt nhiều thập kỷ của Chiến tranh Lạnh sau đó.
Khi Hoa Kỳ thả bom nguyên tử hủy diệt ở Hiroshima và Nagasaki buộc Nhật Bản phải đầu hàng vô điều kiện ngay lập tức, không ai có thể tưởng tượng được rằng thế giới sẽ chứng kiến một lệnh cấm sử dụng vũ khí hạt nhân trên thực tế trong bảy thập kỷ tới. Điều thậm chí còn khó xảy ra hơn là gần 8 thập kỷ sau, sẽ chỉ còn 9 quốc gia có vũ khí hạt nhân. Sự lãnh đạo mà Hoa Kỳ thể hiện trong những thập kỷ này trong việc tránh chiến tranh hạt nhân, làm chậm quá trình phổ biến hạt nhân và hình thành một trật tự quốc tế mang lại hòa bình cho các cường quốc trong nhiều thập kỷ sẽ đi vào lịch sử như một trong những thành tựu quan trọng nhất của Hoa Kỳ.
Ngày nay, khi thế giới phải đối mặt với những thách thức đặc biệt được đặt ra bởi một công nghệ chưa từng có và thậm chí còn đáng sợ hơn ở một khía cạnh nào đó - trí tuệ nhân tạo - không có gì đáng ngạc nhiên khi nhiều người đã tìm đến lịch sử để được hướng dẫn. Liệu những cỗ máy có khả năng siêu phàm có đe dọa đến địa vị làm chủ vũ trụ của loài người? AI sẽ làm suy yếu sự độc quyền của các quốc gia về phương tiện bạo lực hàng loạt? Liệu AI có cho phép các cá nhân hoặc nhóm nhỏ tạo ra loại virus có khả năng tiêu diệt trên quy mô mà trước đây chỉ dành cho các cường quốc không? AI có thể làm xói mòn các biện pháp ngăn chặn hạt nhân vốn là trụ cột của trật tự thế giới ngày nay không?
Tại thời điểm này, không ai có thể tự tin trả lời những câu hỏi này. Nhưng khi chúng tôi khám phá những vấn đề này trong hai năm qua với một nhóm các nhà lãnh đạo công nghệ đi đầu trong cuộc cách mạng AI, chúng tôi đã kết luận rằng triển vọng rằng sự tiến bộ không giới hạn của AI sẽ tạo ra những hậu quả thảm khốc cho Hoa Kỳ và thế giới là rất lớn hấp dẫn đến mức các nhà lãnh đạo trong chính phủ phải hành động ngay. Mặc dù cả họ và bất kỳ ai khác đều không thể biết tương lai sẽ ra sao, nhưng họ đủ hiểu để bắt đầu đưa ra những lựa chọn khó khăn và hành động ngay hôm nay - nhận ra rằng những điều này sẽ phải được sửa đổi nhiều lần khi được khám phá thêm.
Khi các nhà lãnh đạo đưa ra những lựa chọn này, những bài học kinh nghiệm trong kỷ nguyên hạt nhân có thể giúp họ đưa ra quyết định. Ngay cả những đối thủ đang chạy đua để phát triển và triển khai một công nghệ chưa từng có có thể giết chết hàng trăm triệu người vẫn phát hiện ra những hòn đảo có lợi ích chung. Với tư cách là những nhà độc quyền kép, cả Hoa Kỳ và Liên Xô đều quan tâm đến việc ngăn chặn sự lan truyền nhanh chóng của công nghệ này sang các quốc gia khác có thể đe dọa họ. Cả Washington và Moscow đều nhận ra rằng nếu công nghệ hạt nhân rơi vào tay những kẻ lừa đảo hoặc những kẻ khủng bố trong biên giới của họ, nó có thể được sử dụng để đe dọa họ, và vì vậy mỗi nước đều phát triển hệ thống an ninh mạnh mẽ cho kho vũ khí của mình. Nhưng vì mỗi bên cũng có thể bị đe dọa nếu những kẻ lừa đảo trong xã hội của đối thủ của họ có được vũ khí hạt nhân, cả hai đều thấy có lợi khi thảo luận về rủi ro này với nhau và mô tả các phương pháp và công nghệ mà họ đã phát triển để đảm bảo điều này không xảy ra. Khi kho vũ khí hạt nhân của họ đạt đến mức không thể tấn công bên kia mà không gây ra phản ứng tự hủy diệt, họ phát hiện ra sự ổn định nghịch lý của sự hủy diệt được đảm bảo lẫn nhau (MAD). Khi thực tế xấu xí này được nội hóa, mỗi cường quốc học cách hạn chế bản thân và tìm mọi cách thuyết phục đối thủ hạn chế các sáng kiến
của mình nhằm tránh những cuộc đối đầu có thể dẫn đến chiến tranh. Thật vậy, các nhà lãnh đạo của cả Hoa Kỳ và chính phủ Liên Xô đều nhận ra rằng việc tránh một cuộc chiến tranh hạt nhân mà quốc gia của họ sẽ là nạn nhân đầu tiên là trách nhiệm cốt yếu.
Những thách thức do AI đặt ra ngày nay không chỉ đơn giản là chương thứ hai của thời đại hạt nhân. Lịch sử không phải là một cuốn sách dạy nấu ăn với những công thức nấu ăn có thể làm theo để làm ra món bánh soufflé. Sự khác biệt giữa AI và vũ khí hạt nhân ít nhất cũng đáng kể như những điểm tương đồng. Tuy nhiên, được hiểu và điều chỉnh đúng cách, những bài học kinh nghiệm trong việc định hình một trật tự quốc tế đã tạo ra gần 8 thập kỷ không có chiến tranh giữa các cường quốc sẽ mang lại hướng dẫn tốt nhất dành cho các nhà lãnh đạo đối đầu với AI ngày nay.
Tại thời điểm này, chỉ có hai siêu cường AI: Hoa Kỳ và Trung Quốc là những quốc gia duy nhất có đủ nhân tài, viện nghiên cứu và năng lực tính toán khối lượng cần thiết để đào tạo các mô hình AI tinh vi nhất. Điều này mang lại cho họ cơ hội hẹp để tạo ra các hướng dẫn nhằm ngăn chặn những tiến bộ và ứng dụng nguy hiểm nhất của AI. Tổng thống Hoa Kỳ Joe Biden và Chủ tịch Trung Quốc Tập Cận Bình nên nắm bắt cơ hội này bằng cách tổ chức một hội nghị thượng đỉnh - có lẽ ngay sau cuộc họp của Diễn đàn Hợp tác Kinh tế Châu Á-Thái Bình Dương tại San Francisco vào tháng 11 - nơi họ có thể tổ chức các cuộc thảo luận trực tiếp, mở rộng và trực tiếp về những vấn đề cần giải quyết. Họ nên coi đó là một trong những vấn đề có hậu quả nhất mà họ phải đối mặt ngày nay.
Bài học từ thời đại hạt nhân
Sau khi bom nguyên tử tàn phá các thành phố của Nhật Bản vào năm 1945, các nhà khoa học mở hộp nguyên tử của Pandora nhìn thấy thứ họ đã tạo ra và rùng mình kinh hãi. Robert Oppenheimer, nhà khoa học chính của Dự án Manhattan, nhớ lại một câu trong Bhagavad Gita: “Bây giờ tôi trở thành Thần chết, kẻ hủy diệt các thế giới”. Oppenheimer trở thành người ủng hộ nhiệt tình các biện pháp triệt để nhằm kiểm soát quả bom đến mức ông bị tước quyền kiểm soát an ninh. Tuyên ngôn Russell-Einstein—được ký năm 1955 bởi 11 nhà khoa học hàng đầu, không chỉ Bertrand Russell và Albert Einstein mà còn cả Linus Pauling và Max Born—cảnh báo về sức mạnh khủng khiếp của vũ khí hạt nhân và kêu gọi các nhà lãnh đạo thế giới đừng bao giờ sử dụng chúng.Mặc dù Tổng thống Hoa Kỳ Harry Truman chưa bao giờ bày tỏ suy nghĩ thứ hai về quyết định của mình, nhưng cả ông và các thành viên trong nhóm an ninh quốc gia của ông đều không có cái nhìn khả thi về cách công nghệ tuyệt vời này có thể được tích hợp vào trật tự quốc tế thời hậu chiến. Hoa Kỳ có nên cố gắng duy trì vị thế độc quyền là cường quốc nguyên tử duy nhất không? Điều đó có khả thi không? Để theo đuổi mục tiêu, liệu Hoa Kỳ có thể chia sẻ công nghệ của mình với Liên Xô không? Phải chăng sự sống còn trong một thế giới với loại vũ khí này có đòi hỏi các nhà lãnh đạo phải tạo ra một quyền lực nào đó vượt trội hơn chính quyền quốc gia không? Henry Stimson, Bộ trưởng chiến tranh của Truman (người vừa giúp giành chiến thắng trước cả Đức và Nhật Bản), đề xuất rằng Hoa Kỳ chia sẻ độc quyền về bom nguyên tử với lãnh đạo Liên Xô Joseph Stalin và Thủ tướng Anh Winston Churchill để tạo ra một cường quốc sẽ ngăn chặn sự phổ biến của vũ khí hạt nhân. Truman đã thành lập một ủy ban, do Thứ trưởng Ngoại giao Hoa Kỳ Dean Acheson làm chủ tịch, để phát triển chiến lược theo đuổi đề xuất của Stimson.
Về cơ bản, Acheson đồng ý với Stimson: cách duy nhất để ngăn chặn một cuộc chạy đua vũ trang hạt nhân kết thúc bằng chiến tranh thảm khốc là thành lập một cơ quan quốc tế có quyền sở hữu duy nhất vũ khí nguyên tử. Điều này sẽ yêu cầu Hoa Kỳ chia sẻ bí mật hạt nhân của mình với Liên Xô và các thành viên khác của Hội đồng Bảo an Liên Hợp Quốc, chuyển vũ khí hạt nhân của mình cho một “cơ quan phát triển nguyên tử” mới của Liên Hợp Quốc và cấm tất cả các quốc gia phát triển vũ khí hoặc xây dựng năng lực của riêng họ. để sản xuất vật liệu hạt nhân cấp độ vũ khí. Năm 1946, Truman cử nhà tài chính và cố vấn tổng thống Bernard Baruch đến Liên hợp quốc để đàm phán một thỏa thuận thực hiện kế hoạch của Acheson. Nhưng đề xuất này đã bị Andrei Gromyko, đại diện Liên Xô tại Liên Hợp Quốc, bác bỏ dứt khoát.
Ba năm sau, khi Liên Xô thành công trong nỗ lực chế tạo bom của riêng mình, Hoa Kỳ và Liên Xô bước vào cái mà mọi người bắt đầu gọi là Chiến tranh Lạnh: một cuộc cạnh tranh hoàn toàn không có bom và đạn. Đặc điểm trung tâm của cuộc cạnh tranh này là động lực đạt được ưu thế hạt nhân. Ở thời kỳ đỉnh cao, kho vũ khí hạt nhân của hai siêu cường bao gồm hơn 60.000 vũ khí, một số trong số đó là đầu đạn có sức nổ mạnh hơn tất cả các loại vũ khí đã được sử dụng trong tất cả các cuộc chiến tranh trong lịch sử được ghi lại. Các chuyên gia tranh luận liệu một cuộc chiến tranh hạt nhân tổng lực có đồng nghĩa với sự kết thúc của mọi linh hồn sống trên trái đất hay không.
Trong nhiều thập kỷ, Washington và Moscow đã chi hàng nghìn tỷ USD cho kho vũ khí hạt nhân. Ngân sách hàng năm hiện tại cho doanh nghiệp hạt nhân của Hoa Kỳ vượt quá 50 tỷ USD. Trong những thập kỷ đầu của cuộc chạy đua này, cả Mỹ và Liên Xô đều đã có những bước nhảy vọt trước đây không thể tưởng tượng được với hy vọng giành được lợi thế quyết định. Việc tăng sức nổ của vũ khí đòi hỏi phải tạo ra các thước đo mới: từ kiloton (tương đương với năng lượng giải phóng bởi 1.000 tấn TNT) cho vũ khí phân hạch ban đầu đến megaton (tương đương với năng lượng giải phóng một triệu tấn) cho bom nhiệt hạch hydro. Hai bên đã phát minh ra tên lửa xuyên lục địa có khả năng mang đầu đạn tới các mục tiêu ở phía bên kia hành tinh trong 30 phút, các vệ tinh bay vòng quanh địa cầu ở độ cao hàng trăm dặm với camera có thể xác định tọa độ của mục tiêu trong vài inch và hệ thống phòng thủ có thể về bản chất là bắn trúng một viên đạn. Một số nhà quan sát đã nghiêm túc tưởng tượng các hệ thống phòng thủ có thể khiến vũ khí hạt nhân, như Tổng thống Ronald Reagan đã nói, trở nên “bất lực và lỗi thời”.
Khái niệm Arsenal
Trong nỗ lực định hình những diễn biến này, các chiến lược gia đã phát triển một kho vũ khí mang tính khái niệm để phân biệt giữa đòn tấn công thứ nhất và đòn tấn công thứ hai. Họ làm rõ các yêu cầu thiết yếu để có được phản ứng trả đũa đáng tin cậy. Và họ đã phát triển bộ ba hạt nhân – tàu ngầm, máy bay ném bom và tên lửa trên đất liền – để đảm bảo rằng nếu kẻ thù phát hiện ra một lỗ hổng, các thành phần khác của kho vũ khí sẽ vẫn sẵn sàng cho một phản ứng tàn khốc. Nhận thức về rủi ro của việc phóng vũ khí vô tình hoặc trái phép đã thúc đẩy việc phát minh ra các liên kết hành động cho phép—khóa điện tử được gắn trong vũ khí hạt nhân giúp ngăn chúng kích hoạt nếu không có mã phóng hạt nhân phù hợp. Sự dư thừa được thiết kế để bảo vệ chống lại những đột phá công nghệ có thể gây nguy hiểm cho các hệ thống chỉ huy và kiểm soát, điều này thúc đẩy việc phát minh ra mạng máy tính phát triển thành Internet. Như chiến lược gia Herman Kahn đã nói một cách nổi tiếng, họ đang “nghĩ về những điều không thể tưởng tượng được”.Cốt lõi của chiến lược hạt nhân là khái niệm răn đe: ngăn chặn đối thủ tấn công bằng cách đe dọa chi phí vượt quá tỷ lệ so với bất kỳ lợi ích nào có thể tưởng tượng được. Người ta hiểu rằng, để ngăn chặn thành công, không chỉ đòi hỏi năng lực mà còn cả uy tín. Những nạn nhân tiềm năng không chỉ cần phương tiện để đáp trả một cách dứt khoát mà còn cả ý chí. Các nhà chiến lược đã cải tiến ý tưởng cơ bản này hơn nữa bằng các khái niệm như răn đe mở rộng, tìm cách sử dụng một cơ chế chính trị - cam kết bảo vệ thông qua liên minh - để thuyết phục các quốc gia chủ chốt không xây dựng kho vũ khí của riêng mình.
Đến năm 1962, khi Tổng thống Mỹ John F. Kennedy chất vấn lãnh đạo Liên Xô Nikita Khrushchev về tên lửa mang đầu đạn hạt nhân mà Liên Xô đã đặt ở Cuba, cộng đồng tình báo Mỹ ước tính rằng ngay cả khi Kennedy tiến hành cuộc tấn công đầu tiên thành công, phản ứng trả đũa của Liên Xô với các nguồn lực sẵn có của họ sẽ khả năng có thể giết chết 62 triệu người Mỹ. Đến năm 1969, khi Richard Nixon trở thành tổng thống, Hoa Kỳ cần phải suy nghĩ lại cách tiếp cận của mình. Một người trong chúng tôi, Kissinger, sau này đã mô tả thách thức: “Các chiến lược phòng thủ của chúng ta được hình thành trong thời kỳ chúng ta chiếm ưu thế phải được xem xét lại dưới ánh sáng khắc nghiệt của thực tế mới… Không lời hùng biện hiếu chiến nào có thể che khuất sự thật rằng các kho dự trữ hạt nhân hiện có đủ sức hủy diệt loài người… Không thể có nhiệm vụ nào cao hơn việc ngăn chặn thảm họa chiến tranh hạt nhân”.
Để làm cho điều kiện này trở nên sinh động, các chiến lược gia đã tạo ra từ viết tắt MAD đầy mỉa mai, bản chất của nó được tóm tắt bằng câu nói thường được lặp đi lặp lại của Reagan: “ Không thể thắng một cuộc chiến tranh hạt nhân - và do đó không bao giờ được chiến đấu”. Về mặt hoạt động, MAD có nghĩa là lỗ hổng được đảm bảo lẫn nhau. Trong khi cả Hoa Kỳ và Liên Xô đều tìm cách thoát khỏi tình trạng này, cuối cùng họ nhận ra rằng họ không thể làm như vậy và về cơ bản phải tái khái niệm hóa mối quan hệ của mình. Vào năm 1955, Churchill đã lưu ý đến một điều trớ trêu tột cùng là “sự an toàn sẽ là đứa con vững chắc của nỗi kinh hoàng, và sự sống sót sẽ là người anh em sinh đôi của sự hủy diệt”. Không phủ nhận những khác biệt về giá trị hay làm tổn hại đến lợi ích quốc gia sống còn, các đối thủ nguy hiểm phải phát triển các chiến lược để đánh bại đối thủ bằng mọi cách có thể, ngoại trừ chiến tranh tổng lực.
Một trụ cột của những chiến lược này là một loạt các ràng buộc ngầm và rõ ràng mà ngày nay được gọi là kiểm soát vũ khí. Ngay cả trước MAD, khi mỗi siêu cường đang làm mọi thứ có thể để đạt được ưu thế, họ đã khám phá ra những lĩnh vực có lợi ích chung. Để giảm nguy cơ mắc sai lầm, Hoa Kỳ và Liên Xô đã đồng ý trong các cuộc thảo luận không chính thức là không can thiệp vào việc giám sát lãnh thổ của nhau. Để bảo vệ công dân của họ khỏi bụi phóng xạ, họ đã cấm thử nghiệm trong khí quyển. Để tránh “khủng hoảng bất ổn” – khi một bên cảm thấy cần phải tấn công trước vì tin rằng bên kia sắp làm vậy – họ đã đồng ý trong Hiệp ước chống tên lửa đạn đạo năm 1972 để hạn chế hệ thống phòng thủ tên lửa. Trong Hiệp ước Lực lượng hạt nhân tầm trung được ký năm 1987, Reagan và nhà lãnh đạo Liên Xô Mikhail Gorbachev đã đồng ý loại bỏ lực lượng hạt nhân tầm trung. Các cuộc đàm phán về hạn chế vũ khí chiến lược, dẫn đến các hiệp ước được ký năm 1972 và 1979, hạn chế gia tăng số lượng bệ phóng tên lửa, và sau đó, Hiệp ước cắt giảm vũ khí chiến lược (START), ký năm 1991, và START mới, ký năm 2010, đã giảm số lượng các bệ phóng này. . Có lẽ hậu quả lớn nhất là Hoa Kỳ và Liên Xô kết luận rằng việc phổ biến vũ khí hạt nhân sang các quốc gia khác gây ra mối đe dọa cho cả hai và cuối cùng có nguy cơ gây ra tình trạng hỗn loạn hạt nhân. Họ đã tạo ra cái mà ngày nay được gọi là chế độ không phổ biến vũ khí hạt nhân, trọng tâm của nó là Hiệp ước không phổ biến vũ khí hạt nhân năm 1968, qua đó 186 quốc gia ngày nay đã cam kết kiềm chế phát triển kho vũ khí hạt nhân của riêng mình.
Kiểm soát AI
Trong các đề xuất hiện tại về cách ngăn chặn AI, người ta có thể nghe thấy nhiều tiếng vang của quá khứ. Yêu cầu của tỷ phú Elon Musk về việc tạm dừng phát triển AI trong sáu tháng, đề xuất của nhà nghiên cứu AI Eliezer Yudkowsky về việc bãi bỏ AI và yêu cầu của nhà tâm lý học Gary Marcus rằng AI phải được kiểm soát bởi một cơ quan chính phủ toàn cầu về cơ bản lặp lại các đề xuất từ kỷ nguyên hạt nhân đã thất bại. Lý do là mỗi quốc gia sẽ yêu cầu các quốc gia hàng đầu phải phục tùng chủ quyền của mình. Chưa bao giờ trong lịch sử có một cường quốc lo sợ rằng đối thủ cạnh tranh có thể áp dụng một công nghệ mới để đe dọa sự sống còn và an ninh của mình mà từ bỏ việc phát triển công nghệ đó cho chính mình. Ngay cả các đồng minh thân cận của Mỹ như Anh và Pháp cũng lựa chọn phát triển năng lực hạt nhân quốc gia của mình bên cạnh việc dựa vào chiếc ô hạt nhân của Mỹ.Để áp dụng các bài học từ lịch sử hạt nhân nhằm giải quyết thách thức hiện tại, điều cần thiết là phải nhận ra sự khác biệt nổi bật giữa AI và vũ khí hạt nhân. Thứ nhất, trong khi các chính phủ dẫn đầu sự phát triển của công nghệ hạt nhân thì các doanh nhân tư nhân, nhà công nghệ và công ty đang thúc đẩy những tiến bộ trong lĩnh vực AI. Các nhà khoa học làm việc cho Microsoft, Google, Amazon, Meta, OpenAI và một số công ty khởi nghiệp nhỏ hơn đang vượt xa bất kỳ nỗ lực tương tự nào trong chính phủ. Hơn nữa, các công ty này hiện đang bị mắc kẹt trong một cuộc đấu tranh giữa các đấu sĩ, điều này chắc chắn đang thúc đẩy sự đổi mới, nhưng phải trả giá. Khi các chủ thể tư nhân này thực hiện sự đánh đổi giữa rủi ro và lợi ích, lợi ích quốc gia chắc chắn sẽ bị đánh giá thấp.
Thứ hai, AI là kỹ thuật số. Vũ khí hạt nhân rất khó sản xuất, đòi hỏi cơ sở hạ tầng phức tạp để thực hiện mọi việc, từ làm giàu uranium đến thiết kế vũ khí hạt nhân. Các sản phẩm là vật thể vật chất và do đó có thể đếm được. Ở những nơi có thể xác minh được những gì đối thủ đang làm thì những hạn chế sẽ xuất hiện. AI đại diện cho một thách thức khác biệt rõ rệt. Những diễn biến lớn của nó xảy ra trong tâm trí của con người. Khả năng ứng dụng của nó ngày càng phát triển trong các phòng thí nghiệm và việc triển khai nó rất khó quan sát. Vũ khí hạt nhân là hữu hình; bản chất của trí tuệ nhân tạo là khái niệm.
Thứ ba, AI đang phát triển và lan rộng với tốc độ khiến các cuộc đàm phán kéo dài là không thể. Kiểm soát vũ khí đã phát triển qua nhiều thập kỷ. Những hạn chế đối với AI cần phải xảy ra trước khi AI được tích hợp vào cấu trúc an ninh của mỗi xã hội — nghĩa là trước khi máy móc bắt đầu đặt ra các mục tiêu riêng của chúng, điều mà một số chuyên gia hiện nay cho rằng có khả năng xảy ra trong 5 năm tới. Thời điểm này đòi hỏi trước tiên phải có sự thảo luận và phân tích ở cấp quốc gia, sau đó là quốc tế, cũng như động lực mới trong mối quan hệ giữa chính phủ và khu vực tư nhân.
May mắn thay, các công ty lớn đã phát triển AI tổng quát và đưa Hoa Kỳ trở thành siêu cường AI hàng đầu nhận ra rằng họ có trách nhiệm không chỉ với các cổ đông mà còn với đất nước và nhân loại nói chung. Nhiều người đã phát triển các hướng dẫn riêng để đánh giá rủi ro trước khi triển khai, giảm sai lệch trong dữ liệu đào tạo và hạn chế việc sử dụng mô hình của họ một cách nguy hiểm. Những người khác đang tìm cách hạn chế việc đào tạo và áp đặt các yêu cầu “biết khách hàng của bạn” đối với các nhà cung cấp điện toán đám mây. Một bước đi đúng hướng quan trọng là sáng kiến mà chính quyền Biden công bố vào tháng 7 nhằm đưa lãnh đạo của bảy công ty AI lớn đến Nhà Trắng để cam kết chung nhằm thiết lập các hướng dẫn nhằm đảm bảo “an toàn, an ninh và tin cậy”.
Như một người trong chúng tôi, Kissinger, đã chỉ ra trong Thời đại AI , điều cấp bách là phải tạo ra một nghiên cứu có hệ thống về những tác động lâu dài của những phát minh và ứng dụng đang phát triển, thường là ngoạn mục của AI. Ngay cả khi Hoa Kỳ bị chia rẽ nhiều hơn kể từ Nội chiến, mức độ rủi ro do sự tiến bộ không giới hạn của AI gây ra đòi hỏi các nhà lãnh đạo trong cả chính phủ và doanh nghiệp phải hành động ngay bây giờ. Mỗi công ty có khả năng tính toán khối lượng lớn để đào tạo các mô hình AI mới và mỗi công ty hoặc nhóm nghiên cứu phát triển các mô hình mới nên thành lập một nhóm để phân tích các tác động về con người và địa chính trị trong các hoạt động AI thương mại của mình.
Thách thức mang tính lưỡng đảng và đòi hỏi một phản ứng thống nhất. Trên tinh thần đó, tổng thống và Quốc hội nên thành lập một ủy ban quốc gia bao gồm các cựu lãnh đạo phi đảng phái xuất sắc trong khu vực tư nhân, Quốc hội, quân đội và cộng đồng tình báo. Ủy ban nên đề xuất các biện pháp bảo vệ bắt buộc cụ thể hơn. Những điều này phải bao gồm các yêu cầu để đánh giá liên tục khả năng tính toán khối lượng cần thiết để đào tạo các mô hình AI như GPT-4 và trước khi các công ty phát hành một mô hình mới, họ nhấn mạnh việc kiểm tra nó để tìm những rủi ro cực độ. Mặc dù nhiệm vụ phát triển các quy tắc sẽ rất khắt khe nhưng ủy ban sẽ có một mô hình trong Ủy ban An ninh Quốc gia về Trí tuệ Nhân tạo. Các khuyến nghị của nó, được đưa ra vào năm 2021, đã cung cấp động lực và định hướng cho các sáng kiến mà quân đội Hoa Kỳ và các cơ quan tình báo Hoa Kỳ đang thực hiện trong cuộc cạnh tranh AI với Trung Quốc.
Hai siêu sức mạnh AI
Ngay cả ở giai đoạn đầu này, trong khi Hoa Kỳ vẫn đang tạo ra khuôn khổ riêng để quản lý AI trong nước, thì không còn quá sớm để bắt đầu các cuộc đối thoại nghiêm túc với siêu cường AI duy nhất khác trên thế giới. Các nhà vô địch quốc gia của Trung Quốc trong lĩnh vực công nghệ—Baidu (công cụ tìm kiếm hàng đầu của đất nước), ByteDance (người tạo ra TikTok), Tencent (nhà sản xuất WeChat) và Alibaba (người dẫn đầu về thương mại điện tử)—đang xây dựng ngôn ngữ Trung Quốc độc quyền tương tự như ChatGPT, mặc dù hệ thống chính trị Trung Quốc đã gây ra những khó khăn đặc biệt cho AI. Mặc dù Trung Quốc vẫn còn tụt hậu về công nghệ sản xuất chất bán dẫn tiên tiến, nhưng nước này sở hữu những yếu tố cần thiết để dẫn đầu trong tương lai gần.Do đó, Biden và Tập sẽ gặp nhau trong tương lai gần để trò chuyện riêng về việc kiểm soát vũ khí AI. Cuộc họp Hợp tác Kinh tế Châu Á-Thái Bình Dương vào tháng 11 tại San Francisco mang đến cơ hội đó. Mỗi nhà lãnh đạo nên thảo luận về cách cá nhân họ đánh giá những rủi ro do AI gây ra, quốc gia của họ đang làm gì để ngăn chặn các ứng dụng gây ra rủi ro thảm khốc và quốc gia của họ đang đảm bảo rằng các công ty trong nước không xuất khẩu rủi ro như thế nào. Để thông báo cho vòng thảo luận tiếp theo, họ nên thành lập một nhóm cố vấn bao gồm các nhà khoa học AI của Hoa Kỳ và Trung Quốc cũng như những người khác đã phản ánh về ý nghĩa của những phát triển này. Cách tiếp cận này sẽ được mô phỏng theo chính sách ngoại giao Track II hiện có trong các lĩnh vực khác, trong đó các nhóm bao gồm các cá nhân được lựa chọn dựa trên khả năng phán đoán và sự công bằng mặc dù không được chính phủ của họ chính thức xác nhận. Từ các cuộc thảo luận của chúng tôi với các nhà khoa học chủ chốt ở cả hai chính phủ, chúng tôi tin tưởng rằng đây có thể là một cuộc thảo luận mang lại hiệu quả cao.
Các cuộc thảo luận và hành động của Mỹ và Trung Quốc trong chương trình nghị sự này sẽ chỉ là một phần của cuộc đối thoại toàn cầu đang nổi lên về AI, bao gồm Hội nghị Thượng đỉnh về An toàn AI mà Vương quốc Anh sẽ tổ chức vào tháng 11 và cuộc đối thoại đang diễn ra tại Liên Hợp Quốc. Vì mọi quốc gia sẽ tìm cách sử dụng AI để nâng cao cuộc sống của người dân đồng thời đảm bảo sự an toàn cho xã hội của chính mình, nên về lâu dài, sẽ cần phải có một trật tự AI toàn cầu. Công việc này nên bắt đầu bằng những nỗ lực quốc gia nhằm ngăn chặn những hậu quả nguy hiểm nhất và có khả năng thảm khốc nhất của AI. Những sáng kiến này cần được bổ sung bằng đối thoại giữa các nhà khoa học của nhiều quốc gia khác nhau tham gia phát triển các mô hình AI lớn và các thành viên của ủy ban quốc gia như ủy ban được đề xuất ở đây. Các cuộc đàm phán chính thức của chính phủ, ban đầu là giữa các quốc gia có chương trình AI tiên tiến, nên tìm cách thiết lập một khuôn khổ quốc tế, cùng với một cơ quan quốc tế có thể so sánh với Cơ quan Năng lượng Nguyên tử Quốc tế.
Nếu Biden, Tập và các nhà lãnh đạo thế giới khác hành động ngay bây giờ để đối mặt với những thách thức do AI đặt ra một cách thẳng thắn như những người tiền nhiệm của họ đã làm trong việc giải quyết các mối đe dọa hạt nhân trong những thập kỷ trước, liệu họ có thành công không? Nhìn vào bức tranh lịch sử rộng lớn hơn và sự phân cực ngày càng gia tăng ngày nay, thật khó để lạc quan. Tuy nhiên, thực tế nóng bỏng là chúng ta hiện đã đánh dấu 78 năm hòa bình giữa các cường quốc hạt nhân sẽ truyền cảm hứng cho mọi người nắm vững những thách thức mang tính cách mạng, không thể tránh khỏi trong tương lai AI của chúng ta.
Nguồn: Foreign Affairs
