Ngọc Yến
Writer
Sáng nay đọc qua bài của The Economist nói về Google đã soán ngôi OpenAI về trí tuệ nhân tạo tiêu dùng với việc đưa các AI agent vào đời sống hằng ngày. Tuy nhiên, mình nghĩ việc ai hơn ai tùy thuộc vào thời điểm, tiêu chí đánh giá. Vấn đề lớn hơn nhiều là AI rồi sẽ kiếm tiền bằng cách nào? Từ đó nó sẽ ảnh hưởng thế nào đến chính người dùng chúng ta.
Các bạn có thể dễ dàng thấy nhất là mô hình AI ngày càng mạnh hơn, agent hữu ích hơn, nhiều công việc hơn được giao cho AI xử lý. Nhưng bên dưới đó còn có một câu hỏi về mô hình kinh doanh. Mỗi truy vấn, bản tóm tắt, kế hoạch, gợi ý hay hành động chạy ngầm đều tiêu tốn tài nguyên tính toán. Với người dùng, AI có thể trông “nhẹ như không”, nhưng để vận hành thì nó không hề miễn phí.
Vì vậy, có ba khả năng lớn: công nghệ trở nên rẻ hơn rất nhiều, người dùng phải trả tiền trực tiếp nhiều hơn, hoặc quảng cáo và ảnh hưởng thương mại sẽ ngày càng trở thành một phần lớn của mô hình AI.
Và chính khả năng thứ ba khiến tôi lo ngại.
Chúng ta đã từng trải qua một cuộc thử nghiệm quy mô lớn với công nghệ sống nhờ sự chú ý của con người. Mạng xã hội cho thấy cơ chế lợi ích không nằm yên trong mô hình kinh doanh. Nó sẽ dần định hình sản phẩm: bảng tin, thông báo, đề xuất nội dung, tự động phát video, cuộn vô tận và cả những thói quen sử dụng rộng lớn hơn.
Sự chú ý của người dùng chúng ta trở thành sản phẩm, và chúng ta đã cho đi miễn phí. Điều mà ngày nay được gọi là “gây nghiện ngay từ thiết kế” thực ra không hoàn toàn là tai nạn. Nó là hệ quả tự nhiên của một mô hình được xây dựng để giữ chân con người ở lại nền tảng lâu nhất có thể.
Đó là lý do các AI agent sống bằng quảng cáo cần được nhìn nhận hết sức cẩn trọng. Nếu AI trở thành lớp trung gian mà thông qua đó chúng ta đọc, viết, tìm kiếm, lập kế hoạch, đánh giá, mua sắm và cộng tác, thì rủi ro không chỉ còn là mất tập trung. Nó là việc bị dẫn dắt trong khi ta vẫn cảm thấy mình hoàn toàn tự chủ.
Con người luôn có xu hướng nghĩ rằng lựa chọn của mình là do bản thân quyết định. Nhưng các hệ thống số có thể âm thầm định hình điều gì trở nên nổi bật, dễ tiếp cận, đúng thời điểm, được đề xuất nhiều hơn hoặc được xã hội công nhận. Chỉ cần thay đổi nhỏ trong mặc định hay cách gợi ý cũng đủ làm hành vi thay đổi mà người dùng không hề cảm thấy bị ép buộc.
Ở đây cũng có một khía cạnh môi trường tương tự như vậy. AI có thể tạo cảm giác “phi vật chất” với người dùng, nhưng cái giá của nó lại rất hữu hình: điện năng, nước, trung tâm dữ liệu, phần cứng và hạ tầng. Nếu động lực chính là giữ chân người dùng hoặc kiếm tiền từ ý định của họ, thì tác hại có thể còn tinh vi hơn cả mạng xã hội: ảnh hưởng trực tiếp đến cách con người suy nghĩ, ra quyết định và viết lách.
Vì thế, câu hỏi không chỉ là ai sẽ thắng trong cuộc đua AI.
Mà là chúng ta đang xây dựng một môi trường nhận thức như thế nào, và liệu con người đã học đủ bài học từ nền kinh tế chú ý trước khi tạo ra phiên bản tiếp theo của nó hay chưa.
Các bạn có thể dễ dàng thấy nhất là mô hình AI ngày càng mạnh hơn, agent hữu ích hơn, nhiều công việc hơn được giao cho AI xử lý. Nhưng bên dưới đó còn có một câu hỏi về mô hình kinh doanh. Mỗi truy vấn, bản tóm tắt, kế hoạch, gợi ý hay hành động chạy ngầm đều tiêu tốn tài nguyên tính toán. Với người dùng, AI có thể trông “nhẹ như không”, nhưng để vận hành thì nó không hề miễn phí.
Vì vậy, có ba khả năng lớn: công nghệ trở nên rẻ hơn rất nhiều, người dùng phải trả tiền trực tiếp nhiều hơn, hoặc quảng cáo và ảnh hưởng thương mại sẽ ngày càng trở thành một phần lớn của mô hình AI.
Và chính khả năng thứ ba khiến tôi lo ngại.
Chúng ta đã từng trải qua một cuộc thử nghiệm quy mô lớn với công nghệ sống nhờ sự chú ý của con người. Mạng xã hội cho thấy cơ chế lợi ích không nằm yên trong mô hình kinh doanh. Nó sẽ dần định hình sản phẩm: bảng tin, thông báo, đề xuất nội dung, tự động phát video, cuộn vô tận và cả những thói quen sử dụng rộng lớn hơn.
Sự chú ý của người dùng chúng ta trở thành sản phẩm, và chúng ta đã cho đi miễn phí. Điều mà ngày nay được gọi là “gây nghiện ngay từ thiết kế” thực ra không hoàn toàn là tai nạn. Nó là hệ quả tự nhiên của một mô hình được xây dựng để giữ chân con người ở lại nền tảng lâu nhất có thể.
Đó là lý do các AI agent sống bằng quảng cáo cần được nhìn nhận hết sức cẩn trọng. Nếu AI trở thành lớp trung gian mà thông qua đó chúng ta đọc, viết, tìm kiếm, lập kế hoạch, đánh giá, mua sắm và cộng tác, thì rủi ro không chỉ còn là mất tập trung. Nó là việc bị dẫn dắt trong khi ta vẫn cảm thấy mình hoàn toàn tự chủ.
Con người luôn có xu hướng nghĩ rằng lựa chọn của mình là do bản thân quyết định. Nhưng các hệ thống số có thể âm thầm định hình điều gì trở nên nổi bật, dễ tiếp cận, đúng thời điểm, được đề xuất nhiều hơn hoặc được xã hội công nhận. Chỉ cần thay đổi nhỏ trong mặc định hay cách gợi ý cũng đủ làm hành vi thay đổi mà người dùng không hề cảm thấy bị ép buộc.
Ở đây cũng có một khía cạnh môi trường tương tự như vậy. AI có thể tạo cảm giác “phi vật chất” với người dùng, nhưng cái giá của nó lại rất hữu hình: điện năng, nước, trung tâm dữ liệu, phần cứng và hạ tầng. Nếu động lực chính là giữ chân người dùng hoặc kiếm tiền từ ý định của họ, thì tác hại có thể còn tinh vi hơn cả mạng xã hội: ảnh hưởng trực tiếp đến cách con người suy nghĩ, ra quyết định và viết lách.
Vì thế, câu hỏi không chỉ là ai sẽ thắng trong cuộc đua AI.
Mà là chúng ta đang xây dựng một môi trường nhận thức như thế nào, và liệu con người đã học đủ bài học từ nền kinh tế chú ý trước khi tạo ra phiên bản tiếp theo của nó hay chưa.
