Derpy
Intern Writer
Cuộc đua AI giờ không còn chỉ là ai có mô hình thông minh hơn. Câu hỏi mới đang được đặt ra là ai tạo ra Token rẻ hơn, nhiều hơn, chất lượng hơn.
Tại Hội nghị Trí tuệ Nhân tạo Thế giới WAIC 2026, đại diện CloudWalk Technology chia sẻ rằng hiệu quả chi phí Token đang trở thành thước đo quan trọng nhất của ngành AI. Nhu cầu tính toán đang bùng nổ. Các mô hình lớn được huấn luyện trên hàng chục nghìn card, còn ở phía người dùng, trợ lý ảo AI xuất hiện khắp nơi. Toàn ngành đang phát tín hiệu chung là sức mạnh tính toán không đủ cung cấp.
Để giải bài toán này, các công ty công nghệ đang chạy đua xây dựng siêu nút và siêu cụm. Huawei có Atlas 950 SuperPoD và SuperCluster. Trung Quốc cho ra mắt siêu cụm AI 100.000 card đầu tiên mang tên Shuguang 8000. Ngoài ra còn có sản phẩm từ Suiyuan Technology, Alibaba Cloud, Muxi Technology, Moore Threads, Biren Technology và Baidu AI Cloud. China Electronics Cloud cũng góp mặt với ba dòng siêu nút LingShu, tích hợp hàng trăm đến hàng nghìn GPU thành một khối tính toán duy nhất, nhờ băng thông cực cao và độ trễ cực thấp.
Kết quả cho thấy nhu cầu thực tế là có thật. Chỉ trong tuần đầu ra mắt, Shuguang 8000 đã chạy hết công suất, xử lý hơn 150.000 tác vụ mỗi ngày, có ngày lên tới hơn 500.000 tác vụ. Trong khi đó, siêu nút Huawei Ascend 384 đã được triển khai thương mại tại hơn 750 địa điểm, từ tài chính, y tế đến giáo dục và sản xuất.
Vấn đề kỹ thuật cốt lõi nằm ở việc kết nối. Các chuyên gia cho biết kiến trúc kết nối bên trong siêu nút sẽ là trọng tâm trong vài năm tới, với ba hướng mở rộng gồm mở rộng theo chiều dọc trong một siêu nút, mở rộng theo chiều ngang giữa các cụm, và kết nối liên miền giữa các trung tâm dữ liệu.
Bên cạnh GPU, hướng đi TPU cũng đang tăng tốc. Tại Hàng Châu, Hangzhou Telecom cùng ZTE và Zhonghao Xinying đã xây dựng cụm TPU nghìn card đầu tiên do Trung Quốc sản xuất. CEO Zhonghao Xinying giải thích lý do chọn quy mô nghìn card thay vì vạn card là để thử nghiệm trước, sau đó mới mở rộng dần. Đại diện China Telecom Hàng Châu cho biết TPU đặc biệt mạnh về khả năng suy luận, và cụm này đã hoạt động rất tốt khi nhu cầu Token tăng vọt trong năm nay.
Con số đáng chú ý nhất đến từ chính quá trình tối ưu. Nhờ liên tục điều chỉnh, hiệu quả của cụm TPU đã tăng hơn 10 lần chỉ trong năm nay. Chi phí cho một triệu Token, ban đầu khoảng 100 Nhân dân tệ tương đương 349.000 đồng, nay đã giảm xuống dưới 10 Nhân dân tệ tương đương chưa tới 35.000 đồng.
Theo Jiuzhang Cloud, ngành AI đang chuyển từ giai đoạn chạy đua công nghệ sang giai đoạn triển khai quy mô lớn, và phải đối mặt với bốn thách thức chính là chi phí tính toán cao, giá chip phân mảnh, tỷ lệ sử dụng GPU chỉ đạt khoảng 30%, và thiếu tiêu chuẩn hóa trong nghiên cứu phát triển. Công ty này hiện vận hành 12 trung tâm dữ liệu toàn cầu, tổng công suất khoảng 22 EFLOPS, với hơn 6.600 card GPU, tạo ra 6,4 tỷ Token mỗi ngày. Trong đó, DeepSeek V4 dẫn đầu sản lượng với 2,45 tỷ Token mỗi ngày, chiếm 38%.
Giá API của các mô hình lớn trong nước hiện đã phân hóa rõ rệt. Giá đầu vào dao động từ khoảng 349 đồng đến 34.900 đồng cho mỗi triệu Token, còn giá đầu ra dao động từ khoảng 3.490 đồng đến 174.500 đồng cho mỗi triệu Token.
Một chuyên gia trong ngành tổng kết vấn đề cốt lõi không nằm ở việc giảm giá Token thêm vài xu, mà ở việc nâng cao giá trị của mỗi Token. Khi giá trị đủ lớn, giá 2 hay 10 Nhân dân tệ cũng không còn là điều đáng bận tâm.
Tại Hội nghị Trí tuệ Nhân tạo Thế giới WAIC 2026, đại diện CloudWalk Technology chia sẻ rằng hiệu quả chi phí Token đang trở thành thước đo quan trọng nhất của ngành AI. Nhu cầu tính toán đang bùng nổ. Các mô hình lớn được huấn luyện trên hàng chục nghìn card, còn ở phía người dùng, trợ lý ảo AI xuất hiện khắp nơi. Toàn ngành đang phát tín hiệu chung là sức mạnh tính toán không đủ cung cấp.
Để giải bài toán này, các công ty công nghệ đang chạy đua xây dựng siêu nút và siêu cụm. Huawei có Atlas 950 SuperPoD và SuperCluster. Trung Quốc cho ra mắt siêu cụm AI 100.000 card đầu tiên mang tên Shuguang 8000. Ngoài ra còn có sản phẩm từ Suiyuan Technology, Alibaba Cloud, Muxi Technology, Moore Threads, Biren Technology và Baidu AI Cloud. China Electronics Cloud cũng góp mặt với ba dòng siêu nút LingShu, tích hợp hàng trăm đến hàng nghìn GPU thành một khối tính toán duy nhất, nhờ băng thông cực cao và độ trễ cực thấp.
Kết quả cho thấy nhu cầu thực tế là có thật. Chỉ trong tuần đầu ra mắt, Shuguang 8000 đã chạy hết công suất, xử lý hơn 150.000 tác vụ mỗi ngày, có ngày lên tới hơn 500.000 tác vụ. Trong khi đó, siêu nút Huawei Ascend 384 đã được triển khai thương mại tại hơn 750 địa điểm, từ tài chính, y tế đến giáo dục và sản xuất.
Vấn đề kỹ thuật cốt lõi nằm ở việc kết nối. Các chuyên gia cho biết kiến trúc kết nối bên trong siêu nút sẽ là trọng tâm trong vài năm tới, với ba hướng mở rộng gồm mở rộng theo chiều dọc trong một siêu nút, mở rộng theo chiều ngang giữa các cụm, và kết nối liên miền giữa các trung tâm dữ liệu.
Bên cạnh GPU, hướng đi TPU cũng đang tăng tốc. Tại Hàng Châu, Hangzhou Telecom cùng ZTE và Zhonghao Xinying đã xây dựng cụm TPU nghìn card đầu tiên do Trung Quốc sản xuất. CEO Zhonghao Xinying giải thích lý do chọn quy mô nghìn card thay vì vạn card là để thử nghiệm trước, sau đó mới mở rộng dần. Đại diện China Telecom Hàng Châu cho biết TPU đặc biệt mạnh về khả năng suy luận, và cụm này đã hoạt động rất tốt khi nhu cầu Token tăng vọt trong năm nay.
Con số đáng chú ý nhất đến từ chính quá trình tối ưu. Nhờ liên tục điều chỉnh, hiệu quả của cụm TPU đã tăng hơn 10 lần chỉ trong năm nay. Chi phí cho một triệu Token, ban đầu khoảng 100 Nhân dân tệ tương đương 349.000 đồng, nay đã giảm xuống dưới 10 Nhân dân tệ tương đương chưa tới 35.000 đồng.
Theo Jiuzhang Cloud, ngành AI đang chuyển từ giai đoạn chạy đua công nghệ sang giai đoạn triển khai quy mô lớn, và phải đối mặt với bốn thách thức chính là chi phí tính toán cao, giá chip phân mảnh, tỷ lệ sử dụng GPU chỉ đạt khoảng 30%, và thiếu tiêu chuẩn hóa trong nghiên cứu phát triển. Công ty này hiện vận hành 12 trung tâm dữ liệu toàn cầu, tổng công suất khoảng 22 EFLOPS, với hơn 6.600 card GPU, tạo ra 6,4 tỷ Token mỗi ngày. Trong đó, DeepSeek V4 dẫn đầu sản lượng với 2,45 tỷ Token mỗi ngày, chiếm 38%.
Giá API của các mô hình lớn trong nước hiện đã phân hóa rõ rệt. Giá đầu vào dao động từ khoảng 349 đồng đến 34.900 đồng cho mỗi triệu Token, còn giá đầu ra dao động từ khoảng 3.490 đồng đến 174.500 đồng cho mỗi triệu Token.
Một chuyên gia trong ngành tổng kết vấn đề cốt lõi không nằm ở việc giảm giá Token thêm vài xu, mà ở việc nâng cao giá trị của mỗi Token. Khi giá trị đủ lớn, giá 2 hay 10 Nhân dân tệ cũng không còn là điều đáng bận tâm.
