Mỹ Lệ✔
Writer
Theo tờ WSJ, nhà sản xuất thiết bị mạng Cisco đã cung cấp tác nhân AI cá nhân cho toàn bộ 90.000 nhân viên của mình trên khắp thế giới trong tuần này.
Tác nhân AI của Cisco có tên là MyAgent được cá nhân hóa cho từng nhân viên. Thông tin này được ông Thimaya Subaiya, Phó Chủ tịch điều hành phụ trách vận hành của Cisco, chia sẻ với phóng viên tờ WSJ trong một cuộc phỏng vấn độc quyền gần đây.
Chương trình tác nhân AI của Cisco là một trong những ví dụ đầu tiên về việc triển khai rộng rãi các tác nhân AI trong một công ty lớn, nơi các bot tự hành được thiết lập để thực hiện nhiều nhiệm vụ thay mặt cho con người.
Các tác nhân AI ngày càng trở nên mạnh mẽ và có khả năng thực hiện nhiều nhiệm vụ khác nhau, từ viết mã lập trình đến giải đáp thắc mắc hỗ trợ khách hàng và phân tích dữ liệu tài chính. Việc áp dụng các tác nhân này cũng đang gia tăng trong cộng đồng doanh nghiệp, góp phần thúc đẩy nhu cầu sử dụng token và năng lực tính toán – yếu tố giúp Nvidia đạt kết quả kinh doanh bùng nổ trong quý vừa qua.
Tuy nhiên, vẫn còn nhiều thách thức trong việc triển khai tác nhân mà các nhà lãnh đạo công nghệ đang phải đối mặt, bao gồm tình trạng "sự gia tăng tràn lan của các tác nhân AI" (AI agent sprawl), rủi ro an ninh mạng và chi phí sử dụng token.
Tại Cisco, quyết định cung cấp tác nhân AI cho mỗi nhân viên xuất phát từ nhu cầu hợp nhất các công cụ AI đang được sử dụng trong nội bộ công ty. Sau đó, công ty đã mở rộng việc triển khai này nhằm khuyến khích nhân viên sử dụng AI để hoàn thành các công việc hàng ngày.
"Tôi thực sự tin rằng không thể thay thế hoàn toàn con người bằng AI," ông Subaiya chia sẻ với tôi. "Điều chúng ta có thể làm là hỗ trợ và tăng cường năng lực cho con người một cách hiệu quả nhờ vào AI."
Một trong những cách nhân viên sử dụng tác nhân AI là để quản lý hộp thư đến: tóm tắt email, lọc thư rác và tự động soạn thảo nội dung phản hồi. Các ví dụ khác bao gồm tóm tắt và phân tích tin tức thị trường cũng như đưa ra dự báo về biến động của thị trường chứng khoán.
Quản lý kiến trúc, bảo mật và chi phí của tác nhân
Mỗi tác nhân của Cisco sẽ thu thập thông tin ngữ cảnh liên quan đến nhân viên theo thời gian thực thông qua các kết nối doanh nghiệp an toàn, dựa trên các quyền hạn người dùng hiện có. Nhân viên có thể truy cập tác nhân này qua ứng dụng trên máy tính hoặc thiết bị di động, cũng như trò chuyện với nó thông qua phần mềm hội nghị truyền hình Webex thuộc sở hữu của Cisco.
Các tác nhân của Cisco được thiết kế để có thể kết nối với các hệ thống doanh nghiệp và hơn 800 tác nhân phụ (sub-agent) ở hệ thống phía sau (back-end). Các tác nhân phụ này sẽ thực hiện những nhiệm vụ mà nhân viên yêu cầu, chẳng hạn như theo dõi các sai lệch trong dự báo doanh số và tự động gửi thông báo khi phát hiện bất thường. Các tác nhân (agent) này được thiết kế chỉ để tương tác với những nhân viên mà chúng hỗ trợ.
Nói cách khác, chúng không tương tác với các tác nhân khác hay nhân viên khác; chúng chỉ tiếp nhận yêu cầu từ nhân viên được chỉ định, và mọi hành động tác động ra bên ngoài đều cần có sự phê duyệt rõ ràng từ con người, ông Subaiya cho biết.
Việc kiểm soát dữ liệu mà các tác nhân có thể truy cập cũng là một yếu tố then chốt trong thiết kế của chúng. Cisco đã xây dựng một "máy chủ chính sách" (policy server) nhằm ngăn chặn các tác nhân thực hiện những hành động như xóa tập dữ liệu, đồng thời ngăn việc sử dụng dữ liệu của Cisco để huấn luyện các mô hình của bên thứ ba, ông Subaiya chia sẻ.
Để quản lý chi phí gia tăng khi triển khai các tác nhân AI hoạt động liên tục cho mọi nhân viên, Cisco sử dụng nhiều công cụ, bao gồm tính năng giám sát token từ Splunk – công ty chuyên về an ninh mạng và phân tích dữ liệu mà họ đã mua lại vào năm 2024.
Công ty cũng đã phát triển một "bộ định tuyến thông minh" (intelligent router) – hoạt động như một cơ chế điều phối mô hình – để tự động chuyển hướng các tác vụ đến mô hình AI có năng lực tốt nhất và hiệu quả nhất về mặt chi phí. Ngoài ra, Cisco còn vận hành trung tâm dữ liệu riêng, nơi trang bị các bộ xử lý đồ họa (GPU) để chạy các mô hình mã nguồn mở (open-weight models).
Theo ông Subaiya, khoảng 50% đến 60% các yêu cầu AI của Cisco được xử lý thông qua các mô hình mã nguồn mở, và 20% đến 30% dựa vào quy trình tự động hóa bằng phần mềm. Phần còn lại – chiếm "một tỷ lệ rất nhỏ" – mới thực sự được chuyển đến các mô hình nền tảng (foundation models).
Tác nhân AI của Cisco có tên là MyAgent được cá nhân hóa cho từng nhân viên. Thông tin này được ông Thimaya Subaiya, Phó Chủ tịch điều hành phụ trách vận hành của Cisco, chia sẻ với phóng viên tờ WSJ trong một cuộc phỏng vấn độc quyền gần đây.
Chương trình tác nhân AI của Cisco là một trong những ví dụ đầu tiên về việc triển khai rộng rãi các tác nhân AI trong một công ty lớn, nơi các bot tự hành được thiết lập để thực hiện nhiều nhiệm vụ thay mặt cho con người.
Các tác nhân AI ngày càng trở nên mạnh mẽ và có khả năng thực hiện nhiều nhiệm vụ khác nhau, từ viết mã lập trình đến giải đáp thắc mắc hỗ trợ khách hàng và phân tích dữ liệu tài chính. Việc áp dụng các tác nhân này cũng đang gia tăng trong cộng đồng doanh nghiệp, góp phần thúc đẩy nhu cầu sử dụng token và năng lực tính toán – yếu tố giúp Nvidia đạt kết quả kinh doanh bùng nổ trong quý vừa qua.
Tuy nhiên, vẫn còn nhiều thách thức trong việc triển khai tác nhân mà các nhà lãnh đạo công nghệ đang phải đối mặt, bao gồm tình trạng "sự gia tăng tràn lan của các tác nhân AI" (AI agent sprawl), rủi ro an ninh mạng và chi phí sử dụng token.
Tại Cisco, quyết định cung cấp tác nhân AI cho mỗi nhân viên xuất phát từ nhu cầu hợp nhất các công cụ AI đang được sử dụng trong nội bộ công ty. Sau đó, công ty đã mở rộng việc triển khai này nhằm khuyến khích nhân viên sử dụng AI để hoàn thành các công việc hàng ngày.
"Tôi thực sự tin rằng không thể thay thế hoàn toàn con người bằng AI," ông Subaiya chia sẻ với tôi. "Điều chúng ta có thể làm là hỗ trợ và tăng cường năng lực cho con người một cách hiệu quả nhờ vào AI."
Một trong những cách nhân viên sử dụng tác nhân AI là để quản lý hộp thư đến: tóm tắt email, lọc thư rác và tự động soạn thảo nội dung phản hồi. Các ví dụ khác bao gồm tóm tắt và phân tích tin tức thị trường cũng như đưa ra dự báo về biến động của thị trường chứng khoán.
Quản lý kiến trúc, bảo mật và chi phí của tác nhân
Mỗi tác nhân của Cisco sẽ thu thập thông tin ngữ cảnh liên quan đến nhân viên theo thời gian thực thông qua các kết nối doanh nghiệp an toàn, dựa trên các quyền hạn người dùng hiện có. Nhân viên có thể truy cập tác nhân này qua ứng dụng trên máy tính hoặc thiết bị di động, cũng như trò chuyện với nó thông qua phần mềm hội nghị truyền hình Webex thuộc sở hữu của Cisco.
Các tác nhân của Cisco được thiết kế để có thể kết nối với các hệ thống doanh nghiệp và hơn 800 tác nhân phụ (sub-agent) ở hệ thống phía sau (back-end). Các tác nhân phụ này sẽ thực hiện những nhiệm vụ mà nhân viên yêu cầu, chẳng hạn như theo dõi các sai lệch trong dự báo doanh số và tự động gửi thông báo khi phát hiện bất thường. Các tác nhân (agent) này được thiết kế chỉ để tương tác với những nhân viên mà chúng hỗ trợ.
Nói cách khác, chúng không tương tác với các tác nhân khác hay nhân viên khác; chúng chỉ tiếp nhận yêu cầu từ nhân viên được chỉ định, và mọi hành động tác động ra bên ngoài đều cần có sự phê duyệt rõ ràng từ con người, ông Subaiya cho biết.
Việc kiểm soát dữ liệu mà các tác nhân có thể truy cập cũng là một yếu tố then chốt trong thiết kế của chúng. Cisco đã xây dựng một "máy chủ chính sách" (policy server) nhằm ngăn chặn các tác nhân thực hiện những hành động như xóa tập dữ liệu, đồng thời ngăn việc sử dụng dữ liệu của Cisco để huấn luyện các mô hình của bên thứ ba, ông Subaiya chia sẻ.
Để quản lý chi phí gia tăng khi triển khai các tác nhân AI hoạt động liên tục cho mọi nhân viên, Cisco sử dụng nhiều công cụ, bao gồm tính năng giám sát token từ Splunk – công ty chuyên về an ninh mạng và phân tích dữ liệu mà họ đã mua lại vào năm 2024.
Công ty cũng đã phát triển một "bộ định tuyến thông minh" (intelligent router) – hoạt động như một cơ chế điều phối mô hình – để tự động chuyển hướng các tác vụ đến mô hình AI có năng lực tốt nhất và hiệu quả nhất về mặt chi phí. Ngoài ra, Cisco còn vận hành trung tâm dữ liệu riêng, nơi trang bị các bộ xử lý đồ họa (GPU) để chạy các mô hình mã nguồn mở (open-weight models).
Theo ông Subaiya, khoảng 50% đến 60% các yêu cầu AI của Cisco được xử lý thông qua các mô hình mã nguồn mở, và 20% đến 30% dựa vào quy trình tự động hóa bằng phần mềm. Phần còn lại – chiếm "một tỷ lệ rất nhỏ" – mới thực sự được chuyển đến các mô hình nền tảng (foundation models).
