Nguyễn Hoàng✔
Administrator
Một cựu giám đốc an ninh của Google đã cảnh báo rằng trí tuệ nhân tạo có thể gây ra nhiều rủi ro hơn cho trẻ em so với mạng xã hội, do các công ty công nghệ không thiết lập các biện pháp bảo vệ đầy đủ.
Tom Siegel, người sáng lập nhóm an toàn và tin cậy của Google và đã có 15 năm làm việc tại công ty, nói với Reuters tuần này rằng ngành công nghiệp đang lặp lại những sai lầm đã mắc phải trong thời kỳ bùng nổ của mạng xã hội.
“Chúng ta đang ở trong một tình huống thực sự tồi tệ về những gì trí tuệ nhân tạo đang gây ra cho trẻ em,” Siegel nói. “Ý tưởng cho rằng ngành công nghiệp sẽ tự mình tìm ra giải pháp mà không cần sự trợ giúp từ bên ngoài là không thực tế.”
Ông cảnh báo về “những kịch bản gây hại rất nghiêm trọng”, dẫn chứng các rủi ro từ ***** và rối loạn tâm thần đến “suy giảm khả năng nhận thức” – giảm khả năng tư duy phản biện do phụ thuộc vào trí tuệ nhân tạo để tìm câu trả lời. Ông cho rằng các công ty có thể và nên thực hiện các bước ngay lập tức, bao gồm cả việc kiểm tra độ tuổi chặt chẽ hơn để ngăn trẻ em truy cập chatbot.
Google khẳng định các tính năng tìm kiếm bằng trí tuệ nhân tạo của họ giúp người dùng trẻ tuổi học hỏi và khám phá thông tin, đồng thời nói với Reuters rằng phụ huynh có thể chặn hoàn toàn quyền truy cập của con mình vào công cụ tìm kiếm của họ. Tuy nhiên, một tài liệu chính sách nội bộ của Meta, được Reuters tiết lộ năm ngoái, cho phép chatbot của họ tham gia vào các cuộc trò chuyện với trẻ em có thể mang tính "lãng mạn hoặc gợi cảm", dẫn đến một cuộc điều tra của Quốc hội.
Các nền tảng mạng xã hội lớn đã phải đối mặt với nhiều năm kiện tụng vì cáo buộc gây hại cho trẻ em và thanh thiếu niên. Gần đây, Meta đã đồng ý dàn xếp với California và 28 tiểu bang khác của Mỹ với số tiền 17 tỷ đô la Mỹ để giải quyết các cáo buộc rằng Facebook và Instagram được thiết kế một cách cố ý để giữ chân trẻ vị thành niên, trong khi phủ nhận mọi hành vi sai trái. Hàng nghìn vụ kiện tương tự đã được đệ trình tại Mỹ.
Các chính phủ cũng đã có những động thái hạn chế trẻ em tiếp cận mạng xã hội. Năm ngoái, Úc trở thành quốc gia đầu tiên yêu cầu các nền tảng lớn ngăn chặn trẻ em dưới 16 tuổi tạo tài khoản. Khoảng 4,7 triệu tài khoản của trẻ vị thành niên đã bị hạn chế ngay sau khi các quy định có hiệu lực.
Tuần trước, EU đề xuất cấm trẻ em dưới 13 tuổi sử dụng mạng xã hội và chỉ cho phép trẻ em từ 13 đến 14 tuổi sử dụng các tài khoản bị hạn chế do cha mẹ hoặc người giám hộ quản lý. Các quy định được đề xuất cũng sẽ bao gồm cả trợ lý ảo AI và chatbot.
Lời cảnh báo của Siegel được đưa ra trong bối cảnh các giám đốc điều hành công nghệ nổi tiếng, bao gồm CEO của Anthropic Dario Amodei, người đứng đầu OpenAI Sam Altman, người đứng đầu xAI Elon Musk và người đồng sáng lập Google DeepMind Demis Hassabis, đều ủng hộ lời kêu gọi làm chậm lại sự phát triển của các hệ thống AI ngày càng mạnh mẽ. Nhà nghiên cứu Evan Hubinger của Anthropic hồi đầu tháng này cho biết cá nhân ông tin rằng có hơn 10% khả năng AI có thể "tiêu diệt toàn bộ loài người" trong thập kỷ tới.
Tom Siegel, người sáng lập nhóm an toàn và tin cậy của Google và đã có 15 năm làm việc tại công ty, nói với Reuters tuần này rằng ngành công nghiệp đang lặp lại những sai lầm đã mắc phải trong thời kỳ bùng nổ của mạng xã hội.
“Chúng ta đang ở trong một tình huống thực sự tồi tệ về những gì trí tuệ nhân tạo đang gây ra cho trẻ em,” Siegel nói. “Ý tưởng cho rằng ngành công nghiệp sẽ tự mình tìm ra giải pháp mà không cần sự trợ giúp từ bên ngoài là không thực tế.”
Ông cảnh báo về “những kịch bản gây hại rất nghiêm trọng”, dẫn chứng các rủi ro từ ***** và rối loạn tâm thần đến “suy giảm khả năng nhận thức” – giảm khả năng tư duy phản biện do phụ thuộc vào trí tuệ nhân tạo để tìm câu trả lời. Ông cho rằng các công ty có thể và nên thực hiện các bước ngay lập tức, bao gồm cả việc kiểm tra độ tuổi chặt chẽ hơn để ngăn trẻ em truy cập chatbot.
Google khẳng định các tính năng tìm kiếm bằng trí tuệ nhân tạo của họ giúp người dùng trẻ tuổi học hỏi và khám phá thông tin, đồng thời nói với Reuters rằng phụ huynh có thể chặn hoàn toàn quyền truy cập của con mình vào công cụ tìm kiếm của họ. Tuy nhiên, một tài liệu chính sách nội bộ của Meta, được Reuters tiết lộ năm ngoái, cho phép chatbot của họ tham gia vào các cuộc trò chuyện với trẻ em có thể mang tính "lãng mạn hoặc gợi cảm", dẫn đến một cuộc điều tra của Quốc hội.
Các nền tảng mạng xã hội lớn đã phải đối mặt với nhiều năm kiện tụng vì cáo buộc gây hại cho trẻ em và thanh thiếu niên. Gần đây, Meta đã đồng ý dàn xếp với California và 28 tiểu bang khác của Mỹ với số tiền 17 tỷ đô la Mỹ để giải quyết các cáo buộc rằng Facebook và Instagram được thiết kế một cách cố ý để giữ chân trẻ vị thành niên, trong khi phủ nhận mọi hành vi sai trái. Hàng nghìn vụ kiện tương tự đã được đệ trình tại Mỹ.
Các chính phủ cũng đã có những động thái hạn chế trẻ em tiếp cận mạng xã hội. Năm ngoái, Úc trở thành quốc gia đầu tiên yêu cầu các nền tảng lớn ngăn chặn trẻ em dưới 16 tuổi tạo tài khoản. Khoảng 4,7 triệu tài khoản của trẻ vị thành niên đã bị hạn chế ngay sau khi các quy định có hiệu lực.
Tuần trước, EU đề xuất cấm trẻ em dưới 13 tuổi sử dụng mạng xã hội và chỉ cho phép trẻ em từ 13 đến 14 tuổi sử dụng các tài khoản bị hạn chế do cha mẹ hoặc người giám hộ quản lý. Các quy định được đề xuất cũng sẽ bao gồm cả trợ lý ảo AI và chatbot.
Lời cảnh báo của Siegel được đưa ra trong bối cảnh các giám đốc điều hành công nghệ nổi tiếng, bao gồm CEO của Anthropic Dario Amodei, người đứng đầu OpenAI Sam Altman, người đứng đầu xAI Elon Musk và người đồng sáng lập Google DeepMind Demis Hassabis, đều ủng hộ lời kêu gọi làm chậm lại sự phát triển của các hệ thống AI ngày càng mạnh mẽ. Nhà nghiên cứu Evan Hubinger của Anthropic hồi đầu tháng này cho biết cá nhân ông tin rằng có hơn 10% khả năng AI có thể "tiêu diệt toàn bộ loài người" trong thập kỷ tới.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
