Nguyễn Đức Thao✔
Intern Writer
Trong bối cảnh cơn sốt trí tuệ nhân tạo đang bị cuốn theo cuộc đua tăng trưởng tham số, khiến các mô hình trở nên nặng nề và phụ thuộc vào hạ tầng điện toán đám mây khổng lồ, một hướng đi mới đã xuất hiện nhằm giải phóng sức mạnh cho các thiết bị cá nhân. Startup Underdog vừa tạo ra một cú hích trong giới công nghệ khi công bố Woof, một mô hình tạo giọng nói có kích thước vỏn vẹn 32MB. Thay vì yêu cầu sự hỗ trợ từ các trung tâm dữ liệu xa xôi, mô hình này được thiết kế để vận hành trơn tru ngay trên trình duyệt web của người dùng. Đây được coi là bước ngoặt quan trọng đối với khả năng xử lý tại rìa, nơi tính riêng tư và tốc độ phản hồi được đặt lên hàng đầu.
Sản phẩm trình diễn của Underdog là một trò chơi mang phong cách retro, đưa người dùng bước vào một căn phòng ảo với bàn phím cơ và màn hình CRT cũ kỹ. Thông qua trò chơi này, đội ngũ phát triển đã khéo léo lồng ghép thông điệp về sự xâm lấn của các nhà cung cấp đám mây, đồng thời khẳng định tính ưu việt của việc tự chủ dữ liệu cục bộ. Người dùng có thể gõ bất kỳ văn bản nào để Woof chuyển đổi thành giọng nói hoặc xoay núm điều chỉnh để tạo ra các đoạn nhạc tùy ý. Mọi tương tác này đều diễn ra mượt mà mà không cần bất kỳ kết nối internet nào, nhờ vào cấu trúc tinh gọn với 31 triệu tham số.
Chia sẻ trên TechCrunch, người sáng lập Sigil Wen đã bày tỏ kỳ vọng lớn lao đối với xu hướng phát triển các mô hình AI có khả năng hoạt động độc lập trên thiết bị cá nhân. Ông nhấn mạnh rằng việc tạo ra một hệ thống cho phép người dùng tự làm chủ dữ liệu của chính mình là mục tiêu cốt lõi mà ông theo đuổi thay vì dựa vào các giải pháp ghi chú trực tuyến truyền thống. Ý tưởng này không chỉ dừng lại ở các mô hình giọng nói, mà còn bao gồm cả các dự án đầy tham vọng về một mô hình 27 tỷ tham số có thể chạy trực tiếp trên máy tính xách tay. Điều này thể hiện khát khao về việc xây dựng một hệ sinh thái AI nội địa của Mỹ, đề cao tính mở, sự an toàn và khả năng tiếp cận rộng rãi.
Trước đó, startup này cũng đã tạo tiếng vang với Bark, một mô hình chuyển đổi giọng nói thành văn bản nặng 167MB, phục vụ đắc lực cho công tác ghi chép và phiên âm nhanh. Việc liên tục tung ra các bản thử nghiệm nhỏ gọn khẳng định năng lực tối ưu hóa của Underdog trong việc nén mô hình mà vẫn đảm bảo được hiệu năng xử lý đáng kinh ngạc. Những nỗ lực này không chỉ đơn thuần là bài toán về kỹ thuật, mà còn là lời thách thức đối với các mô hình AI tập trung đang thống trị thị trường. Người dùng hiện có thể tải xuống và tự trải nghiệm mô hình này để kiểm chứng tiềm năng của công nghệ AI vận hành tại chỗ.
Tác động của mô hình 32MB không chỉ giới hạn trong trải nghiệm giải trí mà còn mở ra tiềm năng ứng dụng rộng lớn cho các tác nhân AI chạy trên điện thoại hoặc máy tính cá nhân. Việc giảm thiểu rào cản về phần cứng đồng nghĩa với việc hàng tỷ thiết bị sẵn có trên thế giới sẽ trở nên thông minh hơn mà không cần nâng cấp hạ tầng. Khi người dùng không còn phải lo ngại về việc dữ liệu cá nhân bị truyền tải lên đám mây, niềm tin vào các ứng dụng AI chắc chắn sẽ tăng lên rõ rệt. Những bước tiến như của Underdog đang dần hiện thực hóa viễn cảnh nơi trí tuệ nhân tạo trở thành một công cụ cá nhân thực sự, thay vì là tài sản bị kiểm soát bởi các tập đoàn công nghệ lớn.
Sản phẩm trình diễn của Underdog là một trò chơi mang phong cách retro, đưa người dùng bước vào một căn phòng ảo với bàn phím cơ và màn hình CRT cũ kỹ. Thông qua trò chơi này, đội ngũ phát triển đã khéo léo lồng ghép thông điệp về sự xâm lấn của các nhà cung cấp đám mây, đồng thời khẳng định tính ưu việt của việc tự chủ dữ liệu cục bộ. Người dùng có thể gõ bất kỳ văn bản nào để Woof chuyển đổi thành giọng nói hoặc xoay núm điều chỉnh để tạo ra các đoạn nhạc tùy ý. Mọi tương tác này đều diễn ra mượt mà mà không cần bất kỳ kết nối internet nào, nhờ vào cấu trúc tinh gọn với 31 triệu tham số.
Chia sẻ trên TechCrunch, người sáng lập Sigil Wen đã bày tỏ kỳ vọng lớn lao đối với xu hướng phát triển các mô hình AI có khả năng hoạt động độc lập trên thiết bị cá nhân. Ông nhấn mạnh rằng việc tạo ra một hệ thống cho phép người dùng tự làm chủ dữ liệu của chính mình là mục tiêu cốt lõi mà ông theo đuổi thay vì dựa vào các giải pháp ghi chú trực tuyến truyền thống. Ý tưởng này không chỉ dừng lại ở các mô hình giọng nói, mà còn bao gồm cả các dự án đầy tham vọng về một mô hình 27 tỷ tham số có thể chạy trực tiếp trên máy tính xách tay. Điều này thể hiện khát khao về việc xây dựng một hệ sinh thái AI nội địa của Mỹ, đề cao tính mở, sự an toàn và khả năng tiếp cận rộng rãi.
Trước đó, startup này cũng đã tạo tiếng vang với Bark, một mô hình chuyển đổi giọng nói thành văn bản nặng 167MB, phục vụ đắc lực cho công tác ghi chép và phiên âm nhanh. Việc liên tục tung ra các bản thử nghiệm nhỏ gọn khẳng định năng lực tối ưu hóa của Underdog trong việc nén mô hình mà vẫn đảm bảo được hiệu năng xử lý đáng kinh ngạc. Những nỗ lực này không chỉ đơn thuần là bài toán về kỹ thuật, mà còn là lời thách thức đối với các mô hình AI tập trung đang thống trị thị trường. Người dùng hiện có thể tải xuống và tự trải nghiệm mô hình này để kiểm chứng tiềm năng của công nghệ AI vận hành tại chỗ.
Tác động của mô hình 32MB không chỉ giới hạn trong trải nghiệm giải trí mà còn mở ra tiềm năng ứng dụng rộng lớn cho các tác nhân AI chạy trên điện thoại hoặc máy tính cá nhân. Việc giảm thiểu rào cản về phần cứng đồng nghĩa với việc hàng tỷ thiết bị sẵn có trên thế giới sẽ trở nên thông minh hơn mà không cần nâng cấp hạ tầng. Khi người dùng không còn phải lo ngại về việc dữ liệu cá nhân bị truyền tải lên đám mây, niềm tin vào các ứng dụng AI chắc chắn sẽ tăng lên rõ rệt. Những bước tiến như của Underdog đang dần hiện thực hóa viễn cảnh nơi trí tuệ nhân tạo trở thành một công cụ cá nhân thực sự, thay vì là tài sản bị kiểm soát bởi các tập đoàn công nghệ lớn.
