Derpy✔
Intern Writer
Tốc độ phát triển của trí tuệ nhân tạo đang khiến nhiều người choáng ngợp, nhưng liệu chúng ta có đang quá vội vàng mà bỏ qua những rủi ro tiềm ẩn?
Theo báo cáo từ Financial Times, Shane Legg, đồng sáng lập DeepMind và nhà khoa học trưởng về AGI (Trí tuệ nhân tạo tổng quát), vừa lên tiếng cảnh báo rằng năng lực AI không được phép vượt quá các biện pháp an toàn. Anh ấy cũng không đồng tình với Greg Brockman, Chủ tịch OpenAI, và Jensen Huang, CEO Nvidia, về nhận định rằng AGI đã thực sự xuất hiện.
Legg nhấn mạnh rằng AI đang phát triển "rất, rất nhanh" và ngành công nghiệp không thể để khả năng vượt trước an toàn. Anh cũng cho rằng đề xuất của Dario Amodei, CEO Anthropic, về việc làm chậm phát hành các mô hình tiên tiến vì lý do an toàn là "đáng cân nhắc", dù các bên cần thảo luận kỹ hơn về cách thực hiện.
Trong bối cảnh này, DeepMind đã chính thức ra mắt DeepMind Institute. Viện này sẽ tập trung nghiên cứu việc triển khai AGI cùng những tác động của nó lên khoa học, giáo dục, xã hội, chính sách, triết học và phúc lợi con người.
Theo định nghĩa của DeepMind, AGI là một hệ thống AI có đầy đủ khả năng nhận thức như bộ não con người. Dù năng lực của các mô hình AI gần đây đã cải thiện đáng kể, Legg vẫn cho rằng còn quá sớm để tuyên bố AGI đã thành hiện thực. Anh vẫn giữ vững dự đoán trước đây của mình: có 50% khả năng đạt được "AGI tối thiểu" vào năm 2028. Đây là một mốc thời gian cụ thể mà chúng ta cần ghi nhớ.
Trước đó, sau khi OpenAI ra mắt GPT-6 Astra, Greg Brockman đã tuyên bố "chúng ta đã bước vào kỷ nguyên AGI", và Jensen Huang cũng đồng tình, lấy năng lực của Astra làm minh chứng.
Tuy nhiên, Legg bày tỏ sự hoài nghi. Anh cho rằng, dù các tổ chức có thể có định nghĩa AGI khác nhau, nhưng hiện tại vẫn chưa rõ liệu Astra có đạt được tiêu chuẩn của chính OpenAI hay không. OpenAI từng định nghĩa AGI là khả năng hoàn thành hầu hết các công việc nhận thức có giá trị kinh tế. Theo Legg, các mô hình hiện tại dù ấn tượng, vẫn chưa đạt đến ngưỡng đó.
DeepMind Institute được điều hành bởi chính Legg, cùng với Demis Hassabis, Chủ tịch DeepMind, và James Manyika, Phó chủ tịch cấp cao của Google. Legg tin rằng khi công chúng bắt đầu nghiêm túc hơn về khả năng xuất hiện của một trí tuệ tổng quát mạnh mẽ, thì đây là lúc cần có một cuộc thảo luận xã hội rộng rãi hơn. Viện sẽ đóng vai trò chuyển đổi các nghiên cứu kỹ thuật của DeepMind thành nội dung dễ hiểu hơn cho công chúng, đồng thời mời các chuyên gia bên ngoài tham gia vào cuộc đối thoại này.
Trong số ba bài viết đầu tiên mà viện công bố, có một bài của các nhà nghiên cứu DeepMind là Rohin Shah và Anca Dragan đã chỉ thẳng vào tốc độ ra mắt của GPT-6 Astra. Họ bày tỏ lo ngại về "xu hướng giảm đáng báo động" trong tính minh bạch của quá trình suy luận của Astra. Áp lực cạnh tranh giữa các công ty AI có thể làm giảm động lực tăng cường minh bạch, và đây là lúc vai trò của cơ quan quản lý trở nên quan trọng.
Dù vậy bài viết cũng khẳng định rằng ngành vẫn có thể tiếp tục phát triển các mô hình mạnh mẽ hơn, miễn là các cơ chế đảm bảo tính minh bạch được tích hợp ngay từ giai đoạn thiết kế. Các nhà nghiên cứu chỉ ra rằng những mô hình suy luận tiên tiến nhất hiện nay đã có thể hiển thị một phần quá trình suy luận theo cách con người có thể hiểu được, mở ra một "cửa sổ" quý giá để quan sát và nghiên cứu hành vi của AI.
Cuối cùng James Manyika khẳng định rằng Google chỉ muốn tham gia vào một cuộc đua AI duy nhất: cuộc đua để làm đúng công nghệ này.
Theo báo cáo từ Financial Times, Shane Legg, đồng sáng lập DeepMind và nhà khoa học trưởng về AGI (Trí tuệ nhân tạo tổng quát), vừa lên tiếng cảnh báo rằng năng lực AI không được phép vượt quá các biện pháp an toàn. Anh ấy cũng không đồng tình với Greg Brockman, Chủ tịch OpenAI, và Jensen Huang, CEO Nvidia, về nhận định rằng AGI đã thực sự xuất hiện.
Legg nhấn mạnh rằng AI đang phát triển "rất, rất nhanh" và ngành công nghiệp không thể để khả năng vượt trước an toàn. Anh cũng cho rằng đề xuất của Dario Amodei, CEO Anthropic, về việc làm chậm phát hành các mô hình tiên tiến vì lý do an toàn là "đáng cân nhắc", dù các bên cần thảo luận kỹ hơn về cách thực hiện.
Trong bối cảnh này, DeepMind đã chính thức ra mắt DeepMind Institute. Viện này sẽ tập trung nghiên cứu việc triển khai AGI cùng những tác động của nó lên khoa học, giáo dục, xã hội, chính sách, triết học và phúc lợi con người.
Theo định nghĩa của DeepMind, AGI là một hệ thống AI có đầy đủ khả năng nhận thức như bộ não con người. Dù năng lực của các mô hình AI gần đây đã cải thiện đáng kể, Legg vẫn cho rằng còn quá sớm để tuyên bố AGI đã thành hiện thực. Anh vẫn giữ vững dự đoán trước đây của mình: có 50% khả năng đạt được "AGI tối thiểu" vào năm 2028. Đây là một mốc thời gian cụ thể mà chúng ta cần ghi nhớ.
Trước đó, sau khi OpenAI ra mắt GPT-6 Astra, Greg Brockman đã tuyên bố "chúng ta đã bước vào kỷ nguyên AGI", và Jensen Huang cũng đồng tình, lấy năng lực của Astra làm minh chứng.
Tuy nhiên, Legg bày tỏ sự hoài nghi. Anh cho rằng, dù các tổ chức có thể có định nghĩa AGI khác nhau, nhưng hiện tại vẫn chưa rõ liệu Astra có đạt được tiêu chuẩn của chính OpenAI hay không. OpenAI từng định nghĩa AGI là khả năng hoàn thành hầu hết các công việc nhận thức có giá trị kinh tế. Theo Legg, các mô hình hiện tại dù ấn tượng, vẫn chưa đạt đến ngưỡng đó.
DeepMind Institute được điều hành bởi chính Legg, cùng với Demis Hassabis, Chủ tịch DeepMind, và James Manyika, Phó chủ tịch cấp cao của Google. Legg tin rằng khi công chúng bắt đầu nghiêm túc hơn về khả năng xuất hiện của một trí tuệ tổng quát mạnh mẽ, thì đây là lúc cần có một cuộc thảo luận xã hội rộng rãi hơn. Viện sẽ đóng vai trò chuyển đổi các nghiên cứu kỹ thuật của DeepMind thành nội dung dễ hiểu hơn cho công chúng, đồng thời mời các chuyên gia bên ngoài tham gia vào cuộc đối thoại này.
Trong số ba bài viết đầu tiên mà viện công bố, có một bài của các nhà nghiên cứu DeepMind là Rohin Shah và Anca Dragan đã chỉ thẳng vào tốc độ ra mắt của GPT-6 Astra. Họ bày tỏ lo ngại về "xu hướng giảm đáng báo động" trong tính minh bạch của quá trình suy luận của Astra. Áp lực cạnh tranh giữa các công ty AI có thể làm giảm động lực tăng cường minh bạch, và đây là lúc vai trò của cơ quan quản lý trở nên quan trọng.
Dù vậy bài viết cũng khẳng định rằng ngành vẫn có thể tiếp tục phát triển các mô hình mạnh mẽ hơn, miễn là các cơ chế đảm bảo tính minh bạch được tích hợp ngay từ giai đoạn thiết kế. Các nhà nghiên cứu chỉ ra rằng những mô hình suy luận tiên tiến nhất hiện nay đã có thể hiển thị một phần quá trình suy luận theo cách con người có thể hiểu được, mở ra một "cửa sổ" quý giá để quan sát và nghiên cứu hành vi của AI.
Cuối cùng James Manyika khẳng định rằng Google chỉ muốn tham gia vào một cuộc đua AI duy nhất: cuộc đua để làm đúng công nghệ này.
