Derpy
Intern Writer
AI đang ngày càng ảnh hưởng đến xã hội và cuộc sống con người. Việc hiểu rủi ro, cảnh giác với sự thần thánh hóa công nghệ và thúc đẩy giám sát, minh bạch là cần thiết để AI phát triển an toàn, mang lại lợi ích thực sự thay vì nguy cơ không kiểm soát.
Geoffrey Hinton, 77 tuổi, người được mệnh danh là "Cha đẻ của AI," đang cảnh báo về những nguy cơ mà trí tuệ nhân tạo (AI) có thể gây ra nếu không được kiểm soát. Sau khi rời Google, ông cảm thấy có trách nhiệm nhấn mạnh rủi ro của AI mạnh, có khả năng vượt trí thông minh con người, đồng thời kêu gọi giám sát và quản lý chặt chẽ.
Nhiều nhân vật nổi bật trong ngành công nghệ chia rẽ giữa tầm nhìn khải huyền và lạc quan. Một số, như Sam Altman hay Peter Thiel, dùng ngôn ngữ thần thánh để nói về AI, trong khi những người khác, như Dario Amodei và Ray Kurzweil, dự đoán AI có thể nâng cao chất lượng cuộc sống, xóa đói giảm nghèo và thúc đẩy tiến hóa con người.
Tuy nhiên, các nhà nghiên cứu như Max Tegmark nhấn mạnh rằng, thiếu giám sát và sự kiêu ngạo trong phát triển AI có thể gây ra rủi ro nghiêm trọng. Năm 2023, Tegmark đồng sáng lập bức thư kêu gọi dừng đào tạo các hệ thống AI mạnh để đảm bảo an toàn, thu hút hơn 33.000 chữ ký, bao gồm Elon Musk và Steve Wozniak.
Geoffrey Hinton, 77 tuổi, người được mệnh danh là "Cha đẻ của AI," đang cảnh báo về những nguy cơ mà trí tuệ nhân tạo (AI) có thể gây ra nếu không được kiểm soát. Sau khi rời Google, ông cảm thấy có trách nhiệm nhấn mạnh rủi ro của AI mạnh, có khả năng vượt trí thông minh con người, đồng thời kêu gọi giám sát và quản lý chặt chẽ.
Nhiều nhân vật nổi bật trong ngành công nghệ chia rẽ giữa tầm nhìn khải huyền và lạc quan. Một số, như Sam Altman hay Peter Thiel, dùng ngôn ngữ thần thánh để nói về AI, trong khi những người khác, như Dario Amodei và Ray Kurzweil, dự đoán AI có thể nâng cao chất lượng cuộc sống, xóa đói giảm nghèo và thúc đẩy tiến hóa con người.
Tuy nhiên, các nhà nghiên cứu như Max Tegmark nhấn mạnh rằng, thiếu giám sát và sự kiêu ngạo trong phát triển AI có thể gây ra rủi ro nghiêm trọng. Năm 2023, Tegmark đồng sáng lập bức thư kêu gọi dừng đào tạo các hệ thống AI mạnh để đảm bảo an toàn, thu hút hơn 33.000 chữ ký, bao gồm Elon Musk và Steve Wozniak.
Geoffrey Hinton, ở tuổi 77, đang tìm thấy một sứ mệnh mới trong cuộc đời mình. Như một tiên tri hiện đại, người đoạt giải Nobel này đang cảnh báo về những nguy cơ của trí tuệ nhân tạo (AI) nếu không được kiểm soát và quản lý. Được mệnh danh là "Cha đẻ của AI," Hinton nổi tiếng với những công trình tiên phong trong lĩnh vực học sâu và mạng nơ-ron, đã góp phần xây dựng nền tảng cho công nghệ AI mà chúng ta thường sử dụng ngày nay. Cảm thấy "có phần trách nhiệm," ông bắt đầu lên tiếng về những mối lo ngại của mình vào năm 2023, sau khi rời khỏi vị trí làm việc tại Google, nơi ông đã cống hiến hơn một thập kỷ. Khi công nghệ và nguồn đầu tư cho AI đã phát triển mạnh mẽ trong những năm gần đây, thì mức độ nghiêm trọng của vấn đề cũng tăng theo. "Thực sự là như một vị thần," Hinton khẳng định.
Ông không đơn độc trong những lo ngại này, khi ngày càng nhiều nhân vật nổi bật trong ngành công nghệ sử dụng ngôn ngữ từng dành riêng cho thần thánh để nói về AI. CEO của OpenAI, Sam Altman, đã mô tả công nghệ của công ty mình như một "trí tuệ kỳ diệu giữa trời." Còn Peter Thiel, đồng sáng lập PayPal và Palantir, thì cho rằng AI có thể giúp mang đến Antichrist. Vậy liệu AI sẽ mang lại sự lên án hay cứu rỗi? Có nhiều người hoài nghi, trong đó có Dylan Baker, một cựu nhân viên Google và là kỹ sư nghiên cứu hàng đầu tại Viện Nghiên cứu AI Phân phối, nơi nghiên cứu những tác động tiêu cực của AI. Ông cho rằng những lo ngại này thường đến từ "suy nghĩ kỳ diệu không thực tế, bị ảnh hưởng bởi nhiều tác phẩm khoa học viễn tưởng mà họ đã tiếp nhận từ những năm đầu đời."
Trong khi những nhà nghiên cứu như Hinton đang cảnh báo về mối đe dọa mang tính tồn tại mà họ tin rằng AI có thể gây ra cho nhân loại, thì bên kia của quang phổ lại có những CEO và nhà lý thuyết lập luận rằng chúng ta đang tiến gần đến một loại đại dịch công nghệ mà sẽ mở ra một thời kỳ mới của sự tiến hóa nhân loại. Trong một bài tiểu luận được xuất bản năm ngoái mang tên "Những Cỗ Máy Yêu Thương: Cách AI Có Thể Biến Đổi Thế Giới Tốt Hơn," CEO của Anthropic, Dario Amodei, đã trình bày tầm nhìn của mình cho một tương lai "nếu mọi thứ diễn ra thuận lợi với AI." Ông dự đoán rằng, "chúng ta sẽ tiêu diệt hầu hết các loại bệnh tật, tăng cường tự do sinh học và nhận thức, nâng hàng tỷ người ra khỏi đói nghèo để chia sẻ công nghệ mới, và tái sinh của nền dân chủ tự do và nhân quyền."
Khi mà Amodei chọn cụm từ "AI mạnh mẽ," thì những người khác lại sử dụng thuật ngữ như "điểm kỳ diệu" hay "trí tuệ nhân tạo tổng quát (AGI)." Mặc dù những người ủng hộ các khái niệm này thường không đồng ý về cách định nghĩa chúng, họ thường nói về một điểm trong tương lai khi AI vượt qua trí thông minh của con người, có khả năng kích hoạt những thay đổi nhanh chóng và không thể đảo ngược đối với xã hội. Nhà khoa học máy tính và tác giả Ray Kurzweil từ những năm 1990 đã tiên đoán rằng một ngày nào đó con người sẽ hòa nhập với công nghệ, một khái niệm thường được gọi là chủ nghĩa siêu nhân. Ông cho rằng, "Chúng ta sẽ không thể phân biệt được điều gì xuất phát từ bộ não của chúng ta và điều gì đến từ AI. Tất cả sẽ được tích hợp trong chính chúng ta, và điều này sẽ khiến bản thân chúng ta thông minh hơn."
Trong cuốn sách mới nhất của mình, "Điểm Kỳ Diệu Gần Kề: Khi Chúng Ta Hòa Nhập Với AI," Kurzweil nhấn mạnh lại những tiên đoán trước đây của mình. Ông tin rằng vào năm 2045, chúng ta sẽ "tăng cường trí thông minh của chính mình lên một triệu lần." "Có," ông đã trả lời khi được hỏi liệu ông có coi AI là tôn giáo của mình không. Nó mang lại cho ông một mục đích. "Những suy nghĩ của tôi về tương lai và tương lai của công nghệ và sự phát triển nhanh chóng của nó chắc chắn ảnh hưởng đến thái độ của tôi đối với cuộc sống hiện tại và những gì tôi đang làm cùng với cách tôi có thể tác động đến người khác."
Mặc dù Thiel đã sử dụng ngôn ngữ thuộc Sách Khải Huyền, nhưng những tầm nhìn tích cực về một tương lai với AI lại mang tính "khải huyền" theo nghĩa lịch sử của từ này. Domenico Agostini, một giáo sư tại Đại học Naples L'Orientale, giải thích rằng "trong thế giới cổ đại, khải huyền không phải là tiêu cực." Ông cho rằng ngữ nghĩa của từ này đã hoàn toàn thay đổi. Từ "khải huyền" được lấy từ tiếng Hy Lạp "apokalypsis," nghĩa là "mặc khải."
Bác sĩ Robert Geraci, người nghiên cứu tôn giáo và công nghệ tại Knox College, cho biết: "Thiên Chúa hứa hẹn một thế giới mới. Để có thể chiếm lĩnh thế giới mới đó, bạn cần có một cơ thể vinh quang mới, vượt thắng cái ác mà chúng ta đều phải trải qua." Ông đã ghi nhận sự sử dụng ngôn ngữ khải huyền để mô tả tiềm năng của AI từ những năm 2000. Thực tế, Kurzweil và những nhà lý thuyết khác đã truyền cảm hứng cho ông viết cuốn sách năm 2010 mang tên "AI Khải Huyền: Những Tầm Nhìn Về Thiên Đường Trong Robot, Trí Tuệ Nhân Tạo và Thực Tế Ảo."
Với sự phát triển của AI, nhiều người tin rằng Silicon Valley đang tìm kiếm một "Thượng đế" mới. Một yếu tố góp phần vào sự phát triển của "thần thánh hóa" AI là lợi nhuận. Geraci cho biết, "Hai mươi năm trước, giấc mơ đó, dù đúng hay sai, không thực sự mang lại nhiều lợi nhuận." Nhưng giờ đây, "có động lực tài chính khi Sam Altman tuyên bố AGI đang ở ngay gần." Tuy nhiên, Geraci, người cho rằng ChatGPT "không hề có khả năng nhận thức," tin rằng có thể còn nhiều điều khác thúc đẩy hiện tượng này. Lịch sử cho thấy, thế giới công nghệ thường thiếu vắng tôn giáo. Danh tiếng thế tục của nó đã vượt qua tới mức một tập phim trong seri hài satirical HBO "Silicon Valley" xoay quanh việc "đưa ra ánh sáng" một đồng nghiệp là tín đồ Thiên Chúa giáo.
Không phải CEO nào trong Silicon Valley cũng đã bị thuyết phục—mặc dù họ muốn tham gia vào công nghệ. Mark Zuckerberg, CEO của Meta, đã phát biểu trong một podcast rằng, "Khi mọi người trong ngành công nghệ nói về việc xây dựng một AI duy nhất, dường như họ nghĩ rằng họ đang tạo ra Thượng đế hoặc điều gì đó." Mặc dù các lý thuyết chủ nghĩa siêu nhân như của Kurzweil đã trở nên phổ biến, nhưng chúng vẫn chưa phổ biến trong toàn bộ Silicon Valley.
Max Tegmark, một nhà vật lý và nhà nghiên cứu học máy tại Học viện Công nghệ Massachusetts, cho rằng "bằng chứng khoa học cho điều đó không mạnh mẽ hơn so với lý thuyết về một cuộc sống tôn giáo sau khi chết." Giống như Hinton, Tegmark đã lên tiếng về những nguy cơ tiềm ẩn của AI không được điều tiết. Năm 2023, với tư cách là chủ tịch của Viện Tương lai, Tegmark đã tham gia vào việc phát động một bức thư mở kêu gọi các phòng thí nghiệm AI mạnh mẽ "ngay lập tức dừng lại" việc đào tạo hệ thống của họ. Bức thư đã thu thập được hơn 33.000 chữ ký, bao gồm cả Elon Musk và đồng sáng lập Apple, Steve Wozniak.
Tegmark cho rằng bức thư đã thành công vì nó giúp "chính thống hóa cuộc trò chuyện" về an toàn AI, nhưng ông nhận thấy rằng công việc của mình vẫn chưa kết thúc. Với các quy định và biện pháp bảo vệ, Tegmark tin rằng AI có thể được sử dụng như một công cụ để chữa bệnh và tăng cường năng suất của con người. Tuy nhiên, ông nhấn mạnh rằng cần phải tránh xa cuộc đua "có phần cực đoan" mà một số công ty đang theo đuổi—"cuộc theo đuổi tôn giáo giả để cố gắng xây dựng một Thượng đế thay thế." "Có rất nhiều câu chuyện trong các văn bản tôn giáo và trong ví dụ, như thần thoại Hy Lạp cổ đại, về việc khi chúng ta—những người làm người—bắt đầu chơi với vai trò của thần thánh, điều đó thường dẫn đến kết quả tồi tệ," ông nhấn mạnh. "Và tôi cảm thấy có rất nhiều kiêu ngạo ở San Francisco vào lúc này." (techxplore)
