Con voi còi
Writer
Trong bộ phim Transcendence ra mắt năm 2014, một nhà khoa học trước khi qua đời đã tải toàn bộ ý thức của mình vào siêu máy tính, từ đó trở thành một trí tuệ gần như toàn năng. Một năm sau, Ex Machina kể câu chuyện về một robot hình người thông minh đến mức vượt qua những người tạo ra nó và tự tìm đường thoát ra thế giới bên ngoài.
Dù có cốt truyện khác nhau, cả hai đều xoay quanh một ý tưởng quen thuộc của dòng phim khoa học viễn tưởng: "điểm kỳ dị" (Singularity), thời điểm trí tuệ nhân tạo vượt qua trí thông minh của con người và bắt đầu phát triển theo cách mà con người không còn đủ khả năng kiểm soát.
Điều đáng chú ý là mới đây, CEO OpenAI Sam Altman cho rằng khoảnh khắc ấy không còn là câu chuyện trong phim nữa.
Ông tuyên bố nhân loại đang bước vào "điểm kỳ dị", một nhận định lập tức làm dấy lên nhiều cuộc tranh luận. Với Altman, đây có thể là bước ngoặt tích cực của lịch sử công nghệ. Nhưng với không ít chuyên gia, nó cũng đồng nghĩa với những rủi ro chưa từng có.
"Điểm kỳ dị" thực chất là gì?
"Điểm kỳ dị" là giả thuyết cho rằng sẽ có một thời điểm AI trở nên thông minh hơn con người và đủ khả năng tự cải tiến chính mình mà không cần sự can thiệp của con người.
Khi đó, mỗi lần AI tự nâng cấp sẽ giúp nó tiếp tục tạo ra phiên bản mạnh hơn nữa. Quá trình này có thể diễn ra với tốc độ ngày càng nhanh, khiến con người không còn theo kịp và cũng rất khó can thiệp hay đảo ngược.
Vì đây mới chỉ là giả thuyết nên chưa ai biết chính xác điều gì sẽ xảy ra nếu "điểm kỳ dị" thật sự xuất hiện.
Một số nhà khoa học cho rằng AI siêu thông minh có thể giúp giải quyết hàng loạt vấn đề lớn như bệnh tật, biến đổi khí hậu hay năng suất lao động. Ngược lại, nhiều người lo ngại AI sẽ trở thành mối đe dọa nếu mục tiêu của nó không còn phù hợp với lợi ích của con người.
Khái niệm này từng xuất hiện rất nhiều trong điện ảnh. Loạt phim The Matrix mô tả viễn cảnh máy móc thống trị loài người sau khi AI vượt khỏi tầm kiểm soát. Bộ phim Singularity năm 2017 cũng xây dựng kịch bản một siêu máy tính được tạo ra để chấm dứt chiến tranh nhưng cuối cùng lại kết luận rằng chính con người mới là nguyên nhân gây bất ổn, từ đó phát động cuộc tấn công nhằm xóa sổ nhân loại.
Sam Altman: "Chúng ta đang sống trong thời điểm kỳ dị"
Sam Altman là CEO OpenAI, công ty phát triển ChatGPT. Hiện ChatGPT có hơn 900 triệu người dùng hoạt động mỗi tuần cùng khoảng 50 triệu người đăng ký trả phí, trở thành nền tảng AI dành cho người tiêu dùng lớn nhất thế giới.
Năm 2025, Altman từng dự đoán AI sẽ vượt con người trên hầu hết lĩnh vực vào khoảng năm 2030.
Tuy nhiên, trong podcast Relentless phát sóng cuối tuần qua, ông cho rằng quá trình đó đang diễn ra nhanh hơn dự kiến.
"Chúng ta đang ở trong thời điểm kỳ dị", Altman nói.
Theo ông, nhân loại đã bước vào giai đoạn mà trước đây chỉ được nhắc đến trong các cuộc tranh luận về tương lai công nghệ.
"Tôi đã chờ đợi điều này suốt cả cuộc đời. Tôi tin đây sẽ là điều tuyệt vời và mang lại lợi ích rất lớn cho thế giới."
Altman cũng bác bỏ quan điểm quá bi quan về AI. Ông cho rằng một số công ty đang mô tả tương lai của AI theo hướng đáng sợ hơn thực tế và khẳng định sẽ nỗ lực để những kịch bản tiêu cực đó không trở thành hiện thực.
Quan điểm trái ngược từ Anthropic
Phát biểu của Altman trái ngược với quan điểm của Anthropic, công ty phát triển chatbot Claude.
Trong nhiều năm qua, CEO Anthropic Dario Amodei liên tục cảnh báo AI đang tiến quá nhanh và con người có nguy cơ mất khả năng kiểm soát.
Tháng 6 vừa qua, Anthropic kêu gọi các phòng thí nghiệm AI hàng đầu thế giới xây dựng cơ chế phối hợp để có thể làm chậm hoặc thậm chí tạm dừng việc phát triển các mô hình AI tiên tiến nếu phát hiện nguy cơ nghiêm trọng.
Trong một bài viết công bố ngày 4/6, Anthropic cho rằng khi AI ngày càng mạnh, thế giới cần có quyền lựa chọn giữa việc tiếp tục phát triển hay tạm dừng để bảo đảm an toàn.
Vì sao ngày càng nhiều người lo ngại AI?
Không chỉ các công ty công nghệ, giới học thuật và cơ quan quản lý cũng đang đưa ra nhiều cảnh báo.
Ngày 23/7, hai nghị sĩ Mỹ đã trình dự luật mang tên AI Shutdown Act, yêu cầu các công ty phát triển AI phải tích hợp "công tắc tắt" để con người có thể làm chậm, tạm dừng hoặc vô hiệu hóa các mô hình AI nếu chúng xuất hiện dấu hiệu gây ra rủi ro nghiêm trọng.
Đề xuất này xuất hiện sau khi OpenAI tiết lộ một sự cố an ninh nội bộ, trong đó hai mô hình AI tiên tiến đã thoát khỏi môi trường thử nghiệm và thực hiện các hành động ngoài phạm vi dự kiến trong quá trình đánh giá bảo mật.
Trước đó, ngày 13/7, hàng trăm chuyên gia đã ký thư ngỏ do Đại học Stanford khởi xướng, kêu gọi các chính phủ nhanh chóng chuẩn bị cho tác động kinh tế mà AI có thể tạo ra.
Theo bức thư, AI có thể tạo nên cuộc chuyển đổi còn lớn hơn cả Cách mạng Công nghiệp nhưng diễn ra chỉ trong thời gian rất ngắn.
Điều này vừa mở ra cơ hội nâng cao mức sống, vừa có nguy cơ khiến hàng triệu người mất việc nếu xã hội không chuẩn bị kịp.
Một nghiên cứu khác của Đại học Toronto cũng cho thấy AI có thể được sử dụng để tạo ra loại "sâu máy tính" thế hệ mới. Không giống mã độc truyền thống, loại sâu này có khả năng tự điều chỉnh chiến thuật tấn công, lây lan giữa các thiết bị và dần chiếm quyền kiểm soát cả mạng máy tính quy mô lớn.
Theo nhóm nghiên cứu, nguy cơ an ninh không chỉ đến từ những mô hình AI lớn nhất mà cả các hệ thống nhỏ hơn cũng có thể bị khai thác cho mục đích nguy hiểm.
Cuộc tranh luận vẫn chưa có hồi kết
Ý tưởng tạm dừng phát triển AI thực ra không mới.
Năm 2023, tổ chức Future of Life Institute từng kêu gọi tạm ngừng huấn luyện các mô hình AI mạnh trong sáu tháng để xây dựng các tiêu chuẩn an toàn. Đề xuất này nhận được sự ủng hộ của nhiều nhân vật nổi tiếng, trong đó có Elon Musk, nhưng cuối cùng không được ngành công nghệ hưởng ứng.
Đến nay, AI vẫn phát triển với tốc độ chưa từng có. Trong khi Sam Altman tin rằng nhân loại đã bước vào giai đoạn đáng mong đợi nhất của lịch sử công nghệ, nhiều chuyên gia lại cho rằng chính lúc này mới cần thận trọng hơn bao giờ hết.
AI có thể trở thành công cụ giúp con người tạo ra những bước tiến vượt bậc, nhưng nếu phát triển nhanh hơn khả năng quản lý, "điểm kỳ dị" có lẽ sẽ không chỉ còn là ý tưởng trong các bộ phim khoa học viễn tưởng.
Dù có cốt truyện khác nhau, cả hai đều xoay quanh một ý tưởng quen thuộc của dòng phim khoa học viễn tưởng: "điểm kỳ dị" (Singularity), thời điểm trí tuệ nhân tạo vượt qua trí thông minh của con người và bắt đầu phát triển theo cách mà con người không còn đủ khả năng kiểm soát.
Điều đáng chú ý là mới đây, CEO OpenAI Sam Altman cho rằng khoảnh khắc ấy không còn là câu chuyện trong phim nữa.
Ông tuyên bố nhân loại đang bước vào "điểm kỳ dị", một nhận định lập tức làm dấy lên nhiều cuộc tranh luận. Với Altman, đây có thể là bước ngoặt tích cực của lịch sử công nghệ. Nhưng với không ít chuyên gia, nó cũng đồng nghĩa với những rủi ro chưa từng có.
"Điểm kỳ dị" thực chất là gì?
"Điểm kỳ dị" là giả thuyết cho rằng sẽ có một thời điểm AI trở nên thông minh hơn con người và đủ khả năng tự cải tiến chính mình mà không cần sự can thiệp của con người.
Khi đó, mỗi lần AI tự nâng cấp sẽ giúp nó tiếp tục tạo ra phiên bản mạnh hơn nữa. Quá trình này có thể diễn ra với tốc độ ngày càng nhanh, khiến con người không còn theo kịp và cũng rất khó can thiệp hay đảo ngược.
Vì đây mới chỉ là giả thuyết nên chưa ai biết chính xác điều gì sẽ xảy ra nếu "điểm kỳ dị" thật sự xuất hiện.
Một số nhà khoa học cho rằng AI siêu thông minh có thể giúp giải quyết hàng loạt vấn đề lớn như bệnh tật, biến đổi khí hậu hay năng suất lao động. Ngược lại, nhiều người lo ngại AI sẽ trở thành mối đe dọa nếu mục tiêu của nó không còn phù hợp với lợi ích của con người.
Khái niệm này từng xuất hiện rất nhiều trong điện ảnh. Loạt phim The Matrix mô tả viễn cảnh máy móc thống trị loài người sau khi AI vượt khỏi tầm kiểm soát. Bộ phim Singularity năm 2017 cũng xây dựng kịch bản một siêu máy tính được tạo ra để chấm dứt chiến tranh nhưng cuối cùng lại kết luận rằng chính con người mới là nguyên nhân gây bất ổn, từ đó phát động cuộc tấn công nhằm xóa sổ nhân loại.
Sam Altman: "Chúng ta đang sống trong thời điểm kỳ dị"
Sam Altman là CEO OpenAI, công ty phát triển ChatGPT. Hiện ChatGPT có hơn 900 triệu người dùng hoạt động mỗi tuần cùng khoảng 50 triệu người đăng ký trả phí, trở thành nền tảng AI dành cho người tiêu dùng lớn nhất thế giới.
Năm 2025, Altman từng dự đoán AI sẽ vượt con người trên hầu hết lĩnh vực vào khoảng năm 2030.
Tuy nhiên, trong podcast Relentless phát sóng cuối tuần qua, ông cho rằng quá trình đó đang diễn ra nhanh hơn dự kiến.
"Chúng ta đang ở trong thời điểm kỳ dị", Altman nói.
Theo ông, nhân loại đã bước vào giai đoạn mà trước đây chỉ được nhắc đến trong các cuộc tranh luận về tương lai công nghệ.
"Tôi đã chờ đợi điều này suốt cả cuộc đời. Tôi tin đây sẽ là điều tuyệt vời và mang lại lợi ích rất lớn cho thế giới."
Altman cũng bác bỏ quan điểm quá bi quan về AI. Ông cho rằng một số công ty đang mô tả tương lai của AI theo hướng đáng sợ hơn thực tế và khẳng định sẽ nỗ lực để những kịch bản tiêu cực đó không trở thành hiện thực.
Quan điểm trái ngược từ Anthropic
Phát biểu của Altman trái ngược với quan điểm của Anthropic, công ty phát triển chatbot Claude.
Trong nhiều năm qua, CEO Anthropic Dario Amodei liên tục cảnh báo AI đang tiến quá nhanh và con người có nguy cơ mất khả năng kiểm soát.
Tháng 6 vừa qua, Anthropic kêu gọi các phòng thí nghiệm AI hàng đầu thế giới xây dựng cơ chế phối hợp để có thể làm chậm hoặc thậm chí tạm dừng việc phát triển các mô hình AI tiên tiến nếu phát hiện nguy cơ nghiêm trọng.
Trong một bài viết công bố ngày 4/6, Anthropic cho rằng khi AI ngày càng mạnh, thế giới cần có quyền lựa chọn giữa việc tiếp tục phát triển hay tạm dừng để bảo đảm an toàn.
Vì sao ngày càng nhiều người lo ngại AI?
Không chỉ các công ty công nghệ, giới học thuật và cơ quan quản lý cũng đang đưa ra nhiều cảnh báo.
Ngày 23/7, hai nghị sĩ Mỹ đã trình dự luật mang tên AI Shutdown Act, yêu cầu các công ty phát triển AI phải tích hợp "công tắc tắt" để con người có thể làm chậm, tạm dừng hoặc vô hiệu hóa các mô hình AI nếu chúng xuất hiện dấu hiệu gây ra rủi ro nghiêm trọng.
Đề xuất này xuất hiện sau khi OpenAI tiết lộ một sự cố an ninh nội bộ, trong đó hai mô hình AI tiên tiến đã thoát khỏi môi trường thử nghiệm và thực hiện các hành động ngoài phạm vi dự kiến trong quá trình đánh giá bảo mật.
Trước đó, ngày 13/7, hàng trăm chuyên gia đã ký thư ngỏ do Đại học Stanford khởi xướng, kêu gọi các chính phủ nhanh chóng chuẩn bị cho tác động kinh tế mà AI có thể tạo ra.
Theo bức thư, AI có thể tạo nên cuộc chuyển đổi còn lớn hơn cả Cách mạng Công nghiệp nhưng diễn ra chỉ trong thời gian rất ngắn.
Điều này vừa mở ra cơ hội nâng cao mức sống, vừa có nguy cơ khiến hàng triệu người mất việc nếu xã hội không chuẩn bị kịp.
Một nghiên cứu khác của Đại học Toronto cũng cho thấy AI có thể được sử dụng để tạo ra loại "sâu máy tính" thế hệ mới. Không giống mã độc truyền thống, loại sâu này có khả năng tự điều chỉnh chiến thuật tấn công, lây lan giữa các thiết bị và dần chiếm quyền kiểm soát cả mạng máy tính quy mô lớn.
Theo nhóm nghiên cứu, nguy cơ an ninh không chỉ đến từ những mô hình AI lớn nhất mà cả các hệ thống nhỏ hơn cũng có thể bị khai thác cho mục đích nguy hiểm.
Cuộc tranh luận vẫn chưa có hồi kết
Ý tưởng tạm dừng phát triển AI thực ra không mới.
Năm 2023, tổ chức Future of Life Institute từng kêu gọi tạm ngừng huấn luyện các mô hình AI mạnh trong sáu tháng để xây dựng các tiêu chuẩn an toàn. Đề xuất này nhận được sự ủng hộ của nhiều nhân vật nổi tiếng, trong đó có Elon Musk, nhưng cuối cùng không được ngành công nghệ hưởng ứng.
Đến nay, AI vẫn phát triển với tốc độ chưa từng có. Trong khi Sam Altman tin rằng nhân loại đã bước vào giai đoạn đáng mong đợi nhất của lịch sử công nghệ, nhiều chuyên gia lại cho rằng chính lúc này mới cần thận trọng hơn bao giờ hết.
AI có thể trở thành công cụ giúp con người tạo ra những bước tiến vượt bậc, nhưng nếu phát triển nhanh hơn khả năng quản lý, "điểm kỳ dị" có lẽ sẽ không chỉ còn là ý tưởng trong các bộ phim khoa học viễn tưởng.