Derpy
Intern Writer
Trong bối cảnh công nghệ AI đang bùng nổ với những lời hứa hẹn về hiệu suất vượt trội, một dự báo từ Gartner lại khiến nhiều người phải suy nghĩ: liệu các "trợ lý" AI tự động có thực sự là tương lai hay chỉ là một cơn sốt nhất thời?
Theo ZDNET, dù có rất nhiều lời ca ngợi về tiềm năng của các tác nhân AI (AI agents), nhưng bằng chứng về khả năng sinh lời thực sự của chúng vẫn còn khá hạn chế. Thậm chí, hãng phân tích công nghệ Gartner còn dự đoán rằng, đến năm 2027, khoảng 40% doanh nghiệp sẽ phải hạ cấp hoặc ngừng sử dụng các tác nhân AI tự động của mình. Nguyên nhân chính được chỉ ra là do những lỗ hổng trong quản trị, thường chỉ được phát hiện sau khi các sự cố xảy ra trong quá trình vận hành.
Vậy làm thế nào để tránh rơi vào con số 40% đáng báo động đó? Tại Hội nghị Snowflake Summit gần đây ở San Francisco, ba nhà lãnh đạo kỹ thuật số đã chia sẻ những kinh nghiệm quý báu từ việc triển khai thành công các tác nhân AI trong tổ chức của họ. Họ đã đúc kết ba bài học quan trọng dành cho những ai đang muốn khai thác tối đa sức mạnh của AI.
1. Tập trung vào các khuôn khổ (frameworks)
Matt Luizzi, Phó Chủ tịch phân tích tại Whoop – một chuyên gia về công nghệ thiết bị đeo, cho biết công ty mình thu thập dữ liệu sinh trắc học 24/7 để cung cấp các phân tích về sức khỏe và thể chất. Nền tảng Snowflake hỗ trợ các dịch vụ phân tích nội bộ này.
Luizzi nhấn mạnh rằng các tác nhân AI đóng vai trò ngày càng quan trọng, đặc biệt là Snowflake CoCo, một tác nhân mã hóa dành cho các nhà phát triển và kỹ sư dữ liệu.
Whoop đã sử dụng CoCo trong vài tháng, bắt đầu với đội ngũ phân tích để nhanh chóng kiểm tra phản hồi truy vấn và tìm cách mở rộng quy trình. Hiện tại, họ đã xây dựng các khuôn khổ đánh giá chính thức hơn và bắt đầu triển khai tác nhân AI trên quy mô lớn.
Các kỹ sư phần mềm tại Whoop sử dụng CoCo để triển khai thử nghiệm A/B, phân tích kết quả, đề xuất tính năng tiếp theo, thử nghiệm và lặp lại. Cách tiếp cận này giúp tăng tốc đáng kể việc cung cấp giá trị kinh doanh thông qua tự động hóa khuôn khổ thử nghiệm, đồng thời nâng cao giá trị cho khách hàng.
Luizzi chia sẻ rằng Whoop may mắn có sẵn cơ sở hạ tầng dữ liệu tập trung trên nền tảng Snowflake, giúp họ dễ dàng thử nghiệm các tác nhân AI bằng dịch vụ Cortex AI. Một bài học quan trọng là "ngữ cảnh là tất cả". Điều này có nghĩa là cần tập trung vào lớp ngữ nghĩa và đảm bảo ngữ cảnh được đặt ở một nơi có cấu trúc rõ ràng.
Việc xây dựng các khuôn khổ lặp lại, tương tự như cách họ đã làm với kiến trúc dữ liệu trong 10 năm qua, là chìa khóa để mở rộng khối lượng công việc AI thành công.
2. Sử dụng các nhà phân tích chuyên gia
Madeleine Want, Phó Chủ tịch dữ liệu tại Fanatics – một chuyên gia về thể thao, quản lý kỹ thuật dữ liệu, khoa học dữ liệu và học máy cho bộ phận cá cược và trò chơi của tổ chức. Hoạt động này cũng được hỗ trợ bởi nền tảng Snowflake.
Khi mới bắt đầu thử nghiệm, Fanatics không chắc điều gì sẽ hiệu quả. Họ nhận ra rằng dữ liệu càng tốt và quản trị càng chặt chẽ, mô hình ngôn ngữ lớn (LLM) càng dễ dàng hiểu ý nghĩa và trả lời câu hỏi một cách hiệu quả.
Mặc dù việc tập trung vào dữ liệu và quản trị nghe có vẻ hiển nhiên, nhưng 18 tháng trước, điều này không phải lúc nào cũng được công nhận. Fanatics có nhiều kinh nghiệm xây dựng các mô hình học máy tùy chỉnh, nên ban đầu họ khó tin rằng việc nhập một mô hình bên thứ ba và đặt nó trực tiếp lên dữ liệu có thể hoạt động tốt cho phân tích. Tuy nhiên, giờ đây cách tiếp cận này đã trở thành một phần không thể thiếu trong mọi hoạt động của họ.
Thành công ban đầu đến từ các lĩnh vực có ngữ cảnh rõ ràng và có các nhà phân tích chuyên gia hiểu rõ nghiệp vụ từ A đến Z, những người có thể "huấn luyện" tác nhân AI.
Theo thời gian, Fanatics đạt được nhiều thành công hơn. Chi phí đầu tư vào lớp ngữ cảnh giảm dần, và mức độ giám sát cần thiết cho tác nhân AI trước khi nó có thể tự động trả lời câu hỏi cũng ít đi. Khả năng đo lường độ chính xác của câu trả lời ngày càng tăng nhờ việc áp dụng các khuôn khổ đánh giá quy mô lớn, giúp họ tự tin hơn vào cách tác nhân AI hoạt động khi không có sự giám sát trực tiếp.
Những thành công này đồng nghĩa với việc phạm vi ứng dụng của các tác nhân AI đang mở rộng. Không chỉ giới hạn trong phân tích, các chuyên gia khác cũng nhận thấy lợi ích và muốn khám phá tiềm năng của chúng.
Fanatics vẫn sử dụng giao diện và tác nhân của Snowflake, nhưng họ đang tích hợp API và phản hồi vào các công cụ bên thứ ba khác để mọi người có thể khai thác nhiều hơn từ những thông tin chi tiết dựa trên dữ liệu. Người dùng muốn tiến xa hơn và thực hiện nhiều hơn với các trường hợp sử dụng vận hành. Họ yêu cầu quyền truy cập vào những thông tin chi tiết đó thông qua nhiều kênh và phương tiện tiêu thụ khác nhau, vì họ cần sử dụng dữ liệu ngay tại nơi làm việc.
3. Kiếm tiền từ dữ liệu của bạn (Monetize your data)
Sriram Sitaraman, Giám đốc Thông tin (CIO) tại Synopsys – một chuyên gia phần mềm, cho biết công ty mình là khách hàng lâu năm của Snowflake và sử dụng nền tảng dữ liệu cùng các dịch vụ tác nhân AI như CoCo để hỗ trợ quá trình ra quyết định.
Khoảng 18 tháng trước, Synopsys nhận ra tiềm năng của các tác nhân AI trong việc thực hiện các nhiệm vụ của nhân viên cấp dưới, như chạy truy vấn nhanh, tạo biểu đồ và rút ra thông tin chi tiết. Họ đã tận dụng khả năng này và bắt đầu triển khai một "tác nhân tri thức" (knowledge agent) trên nhiều khía cạnh khác nhau.
Các ví dụ bao gồm một tác nhân doanh thu cho bộ phận tài chính để chạy báo cáo và một tác nhân gỡ lỗi cho hệ thống quản lý sự cố liên quan đến các trung tâm dữ liệu của công ty.
Đội ngũ của Sitaraman đã đánh giá tiềm năng của AI dựa trên ba yếu tố: chất lượng kết quả, thời gian đạt được kết quả và chi phí. Họ phát hiện ra rằng AI có tác động tích cực đến cả ba lĩnh vực này, điều mà Sitaraman gọi là một bước đột phá đáng kể, vì trước đây thường phải hy sinh yếu tố này để đạt được yếu tố khác.
Giờ đây, thay vì phải lập trình lại hệ thống mỗi khi mô hình AI được điều chỉnh ngữ cảnh, họ có thể tập trung vào việc khai thác thông tin chi tiết mà không cần lo lắng về các vấn đề cơ bản.
Sitaraman đúc kết hành trình của Synopsys bằng lời khuyên: "Hãy bắt đầu với dữ liệu – kiếm tiền từ dữ liệu của bạn bằng AI." Ông giải thích rằng khối lượng dữ liệu không thành vấn đề, vì AI có khả năng mở rộng tuyến tính, nghĩa là càng nhiều dữ liệu, AI càng đưa ra quyết định tốt hơn.
Tuy nhiên, Sitaraman cũng đưa ra một cảnh báo quan trọng: "Một điều chúng tôi nhận ra là hiện tại không có nhiều sự khác biệt giữa tự động hóa (automation) và tự chủ (autonomy), vì vậy bạn phải cẩn thận."
Ông đặt câu hỏi: "Bạn muốn tự động hóa một quy trình hay thực sự muốn tạo ra một tác nhân AI, điều này liên quan đến cấu trúc chi phí, mô hình sử dụng và quản trị khác biệt?"
Sitaraman khuyến khích các chuyên gia xác định đúng trường hợp sử dụng, xây dựng các khuôn khổ phù hợp và không bao giờ đánh giá thấp khả năng của một tác nhân AI. Ông giải thích thêm: "Bạn có thể triển khai một tác nhân và gọi nó là 'tác nhân vận hành bán hàng'. Nhưng thường thì không có gì ngăn cản nó trở thành một tác nhân phân tích bán hàng hoặc một loại tác nhân khác."
Vì vậy, điều quan trọng là phải tự hỏi: "Đây có phải là điều chúng ta muốn nó làm không?" Các khuôn khổ và kỹ năng là rất quan trọng, cần suy nghĩ kỹ lưỡng về toàn bộ quy trình.
Theo ZDNET, dù có rất nhiều lời ca ngợi về tiềm năng của các tác nhân AI (AI agents), nhưng bằng chứng về khả năng sinh lời thực sự của chúng vẫn còn khá hạn chế. Thậm chí, hãng phân tích công nghệ Gartner còn dự đoán rằng, đến năm 2027, khoảng 40% doanh nghiệp sẽ phải hạ cấp hoặc ngừng sử dụng các tác nhân AI tự động của mình. Nguyên nhân chính được chỉ ra là do những lỗ hổng trong quản trị, thường chỉ được phát hiện sau khi các sự cố xảy ra trong quá trình vận hành.
Vậy làm thế nào để tránh rơi vào con số 40% đáng báo động đó? Tại Hội nghị Snowflake Summit gần đây ở San Francisco, ba nhà lãnh đạo kỹ thuật số đã chia sẻ những kinh nghiệm quý báu từ việc triển khai thành công các tác nhân AI trong tổ chức của họ. Họ đã đúc kết ba bài học quan trọng dành cho những ai đang muốn khai thác tối đa sức mạnh của AI.
1. Tập trung vào các khuôn khổ (frameworks)
Matt Luizzi, Phó Chủ tịch phân tích tại Whoop – một chuyên gia về công nghệ thiết bị đeo, cho biết công ty mình thu thập dữ liệu sinh trắc học 24/7 để cung cấp các phân tích về sức khỏe và thể chất. Nền tảng Snowflake hỗ trợ các dịch vụ phân tích nội bộ này.
Luizzi nhấn mạnh rằng các tác nhân AI đóng vai trò ngày càng quan trọng, đặc biệt là Snowflake CoCo, một tác nhân mã hóa dành cho các nhà phát triển và kỹ sư dữ liệu.
Whoop đã sử dụng CoCo trong vài tháng, bắt đầu với đội ngũ phân tích để nhanh chóng kiểm tra phản hồi truy vấn và tìm cách mở rộng quy trình. Hiện tại, họ đã xây dựng các khuôn khổ đánh giá chính thức hơn và bắt đầu triển khai tác nhân AI trên quy mô lớn.
Các kỹ sư phần mềm tại Whoop sử dụng CoCo để triển khai thử nghiệm A/B, phân tích kết quả, đề xuất tính năng tiếp theo, thử nghiệm và lặp lại. Cách tiếp cận này giúp tăng tốc đáng kể việc cung cấp giá trị kinh doanh thông qua tự động hóa khuôn khổ thử nghiệm, đồng thời nâng cao giá trị cho khách hàng.
Luizzi chia sẻ rằng Whoop may mắn có sẵn cơ sở hạ tầng dữ liệu tập trung trên nền tảng Snowflake, giúp họ dễ dàng thử nghiệm các tác nhân AI bằng dịch vụ Cortex AI. Một bài học quan trọng là "ngữ cảnh là tất cả". Điều này có nghĩa là cần tập trung vào lớp ngữ nghĩa và đảm bảo ngữ cảnh được đặt ở một nơi có cấu trúc rõ ràng.
Việc xây dựng các khuôn khổ lặp lại, tương tự như cách họ đã làm với kiến trúc dữ liệu trong 10 năm qua, là chìa khóa để mở rộng khối lượng công việc AI thành công.
2. Sử dụng các nhà phân tích chuyên gia
Madeleine Want, Phó Chủ tịch dữ liệu tại Fanatics – một chuyên gia về thể thao, quản lý kỹ thuật dữ liệu, khoa học dữ liệu và học máy cho bộ phận cá cược và trò chơi của tổ chức. Hoạt động này cũng được hỗ trợ bởi nền tảng Snowflake.
Khi mới bắt đầu thử nghiệm, Fanatics không chắc điều gì sẽ hiệu quả. Họ nhận ra rằng dữ liệu càng tốt và quản trị càng chặt chẽ, mô hình ngôn ngữ lớn (LLM) càng dễ dàng hiểu ý nghĩa và trả lời câu hỏi một cách hiệu quả.
Mặc dù việc tập trung vào dữ liệu và quản trị nghe có vẻ hiển nhiên, nhưng 18 tháng trước, điều này không phải lúc nào cũng được công nhận. Fanatics có nhiều kinh nghiệm xây dựng các mô hình học máy tùy chỉnh, nên ban đầu họ khó tin rằng việc nhập một mô hình bên thứ ba và đặt nó trực tiếp lên dữ liệu có thể hoạt động tốt cho phân tích. Tuy nhiên, giờ đây cách tiếp cận này đã trở thành một phần không thể thiếu trong mọi hoạt động của họ.
Thành công ban đầu đến từ các lĩnh vực có ngữ cảnh rõ ràng và có các nhà phân tích chuyên gia hiểu rõ nghiệp vụ từ A đến Z, những người có thể "huấn luyện" tác nhân AI.
Theo thời gian, Fanatics đạt được nhiều thành công hơn. Chi phí đầu tư vào lớp ngữ cảnh giảm dần, và mức độ giám sát cần thiết cho tác nhân AI trước khi nó có thể tự động trả lời câu hỏi cũng ít đi. Khả năng đo lường độ chính xác của câu trả lời ngày càng tăng nhờ việc áp dụng các khuôn khổ đánh giá quy mô lớn, giúp họ tự tin hơn vào cách tác nhân AI hoạt động khi không có sự giám sát trực tiếp.
Những thành công này đồng nghĩa với việc phạm vi ứng dụng của các tác nhân AI đang mở rộng. Không chỉ giới hạn trong phân tích, các chuyên gia khác cũng nhận thấy lợi ích và muốn khám phá tiềm năng của chúng.
Fanatics vẫn sử dụng giao diện và tác nhân của Snowflake, nhưng họ đang tích hợp API và phản hồi vào các công cụ bên thứ ba khác để mọi người có thể khai thác nhiều hơn từ những thông tin chi tiết dựa trên dữ liệu. Người dùng muốn tiến xa hơn và thực hiện nhiều hơn với các trường hợp sử dụng vận hành. Họ yêu cầu quyền truy cập vào những thông tin chi tiết đó thông qua nhiều kênh và phương tiện tiêu thụ khác nhau, vì họ cần sử dụng dữ liệu ngay tại nơi làm việc.
3. Kiếm tiền từ dữ liệu của bạn (Monetize your data)
Sriram Sitaraman, Giám đốc Thông tin (CIO) tại Synopsys – một chuyên gia phần mềm, cho biết công ty mình là khách hàng lâu năm của Snowflake và sử dụng nền tảng dữ liệu cùng các dịch vụ tác nhân AI như CoCo để hỗ trợ quá trình ra quyết định.
Khoảng 18 tháng trước, Synopsys nhận ra tiềm năng của các tác nhân AI trong việc thực hiện các nhiệm vụ của nhân viên cấp dưới, như chạy truy vấn nhanh, tạo biểu đồ và rút ra thông tin chi tiết. Họ đã tận dụng khả năng này và bắt đầu triển khai một "tác nhân tri thức" (knowledge agent) trên nhiều khía cạnh khác nhau.
Các ví dụ bao gồm một tác nhân doanh thu cho bộ phận tài chính để chạy báo cáo và một tác nhân gỡ lỗi cho hệ thống quản lý sự cố liên quan đến các trung tâm dữ liệu của công ty.
Đội ngũ của Sitaraman đã đánh giá tiềm năng của AI dựa trên ba yếu tố: chất lượng kết quả, thời gian đạt được kết quả và chi phí. Họ phát hiện ra rằng AI có tác động tích cực đến cả ba lĩnh vực này, điều mà Sitaraman gọi là một bước đột phá đáng kể, vì trước đây thường phải hy sinh yếu tố này để đạt được yếu tố khác.
Giờ đây, thay vì phải lập trình lại hệ thống mỗi khi mô hình AI được điều chỉnh ngữ cảnh, họ có thể tập trung vào việc khai thác thông tin chi tiết mà không cần lo lắng về các vấn đề cơ bản.
Sitaraman đúc kết hành trình của Synopsys bằng lời khuyên: "Hãy bắt đầu với dữ liệu – kiếm tiền từ dữ liệu của bạn bằng AI." Ông giải thích rằng khối lượng dữ liệu không thành vấn đề, vì AI có khả năng mở rộng tuyến tính, nghĩa là càng nhiều dữ liệu, AI càng đưa ra quyết định tốt hơn.
Tuy nhiên, Sitaraman cũng đưa ra một cảnh báo quan trọng: "Một điều chúng tôi nhận ra là hiện tại không có nhiều sự khác biệt giữa tự động hóa (automation) và tự chủ (autonomy), vì vậy bạn phải cẩn thận."
Ông đặt câu hỏi: "Bạn muốn tự động hóa một quy trình hay thực sự muốn tạo ra một tác nhân AI, điều này liên quan đến cấu trúc chi phí, mô hình sử dụng và quản trị khác biệt?"
Sitaraman khuyến khích các chuyên gia xác định đúng trường hợp sử dụng, xây dựng các khuôn khổ phù hợp và không bao giờ đánh giá thấp khả năng của một tác nhân AI. Ông giải thích thêm: "Bạn có thể triển khai một tác nhân và gọi nó là 'tác nhân vận hành bán hàng'. Nhưng thường thì không có gì ngăn cản nó trở thành một tác nhân phân tích bán hàng hoặc một loại tác nhân khác."
Vì vậy, điều quan trọng là phải tự hỏi: "Đây có phải là điều chúng ta muốn nó làm không?" Các khuôn khổ và kỹ năng là rất quan trọng, cần suy nghĩ kỹ lưỡng về toàn bộ quy trình.
