Bằng việc tối ưu hóa sâu sắc ở cấp độ cấu trúc thuật toán, Moonshot AI đã chứng minh rằng việc thiếu hụt các dòng chip phần cứng siêu việt nhất của Mỹ (như Nvidia H100 hay B200) có thể được bù đắp bằng kỹ thuật phần mềm thông minh. Cụ thể, họ đã thực hiện ba giải pháp mang tính "đường vòng" để né tránh giới hạn cấm vận này, theo phân tích của các chuyên gia trong ngành. Dưới đây mình tổng hợp và liệt kê lại một cách ngắn gọn nhất, còn muốn tìm hiểu chuyên sâu bạn tìm đến blog của Moonshot AI nhé.
Đầu tiên là việc giải quyết bài toán tiêu thụ tài nguyên bằng cơ chế chú ý lai mang tên Kimi Delta Attention] phối hợp với cấu trúc Attention Residuals. Trong các mô hình AI truyền thống, khi xử lý chuỗi văn bản dài đến hàng triệu mã báo (token), lượng bộ nhớ đồ họa (VRAM) của chip yêu cầu tăng lên theo cấp số nhân, khiến việc vận hành đòi hỏi một cụm siêu máy tính cực kỳ khổng lồ. Cải tiến của Kimi K3 thay đổi cách tính toán chuỗi, giúp giữ mức chi phí bộ nhớ phẳng đồng đều ngay cả khi cửa sổ ngữ cảnh mở rộng tối đa 1 triệu token. Hệ quả là họ có thể chạy một mô hình biên giới (frontier model) trên một hệ thống phần cứng khiêm tốn hơn và thế hệ cũ hơn nhiều so với tiêu chuẩn của các phòng thí nghiệm Mỹ.
Điểm cốt lõi thứ hai nằm ở việc khai thác triệt để cấu trúc Hỗn hợp chuyên gia (Mixture-of-Experts - MoE) mở rộng ở quy mô 2,8 nghìn tỷ tham số. Về mặt kỹ thuật, kiến trúc MoE cho phép một mô hình có dung lượng lưu trữ tri thức cực lớn nhưng lại tiết kiệm năng lượng khi vận hành. Thay vì kích hoạt toàn bộ mạng lưới cho mỗi câu lệnh (vốn đòi hỏi băng thông chip cực lớn), Kimi K3 chỉ định tuyến dữ liệu qua các nhóm chuyên gia nhỏ chuyên biệt. Phương pháp "chia để trị" này giúp giảm đáng kể số lượng tham số thực tế phải tính toán trên mỗi token, cho phép các dòng chip thế hệ cũ vẫn có thể xử lý mượt mà tác vụ của một siêu mô hình.
Cuối cùng Moonshot AI dịch chuyển áp lực từ một con chip đơn lẻ sang tư duy xử lý song song thông qua biến thể K3 Swarm Max. Thay vì cố gắng tăng tốc độ xử lý của một luồng bằng phần cứng siêu mạnh, cấu trúc này tự động chia tách các bài toán lập trình hoặc tác vụ hệ thống phức tạp thành các nhánh đại lý (sub-agents) độc lập hoạt động song song đồng thời. Bằng cách tối ưu hóa "hiệu suất theo cụm đại lý" thay vì cố gắng đạt đỉnh hiệu suất trên một phần cứng đơn lẻ, Kimi K3 đạt được năng lực tư duy hàng đầu thế giới mà không cần đến những kiến trúc bán dẫn mới nhất bị Mỹ cấm vận.
>> Kimi K3: Mô hình AI mã nguồn mở lớn nhất thế giới chính thức lộ diện, thách thức cả GPT-5.6 Sol và Claude Fable
Đầu tiên là việc giải quyết bài toán tiêu thụ tài nguyên bằng cơ chế chú ý lai mang tên Kimi Delta Attention] phối hợp với cấu trúc Attention Residuals. Trong các mô hình AI truyền thống, khi xử lý chuỗi văn bản dài đến hàng triệu mã báo (token), lượng bộ nhớ đồ họa (VRAM) của chip yêu cầu tăng lên theo cấp số nhân, khiến việc vận hành đòi hỏi một cụm siêu máy tính cực kỳ khổng lồ. Cải tiến của Kimi K3 thay đổi cách tính toán chuỗi, giúp giữ mức chi phí bộ nhớ phẳng đồng đều ngay cả khi cửa sổ ngữ cảnh mở rộng tối đa 1 triệu token. Hệ quả là họ có thể chạy một mô hình biên giới (frontier model) trên một hệ thống phần cứng khiêm tốn hơn và thế hệ cũ hơn nhiều so với tiêu chuẩn của các phòng thí nghiệm Mỹ.
Điểm cốt lõi thứ hai nằm ở việc khai thác triệt để cấu trúc Hỗn hợp chuyên gia (Mixture-of-Experts - MoE) mở rộng ở quy mô 2,8 nghìn tỷ tham số. Về mặt kỹ thuật, kiến trúc MoE cho phép một mô hình có dung lượng lưu trữ tri thức cực lớn nhưng lại tiết kiệm năng lượng khi vận hành. Thay vì kích hoạt toàn bộ mạng lưới cho mỗi câu lệnh (vốn đòi hỏi băng thông chip cực lớn), Kimi K3 chỉ định tuyến dữ liệu qua các nhóm chuyên gia nhỏ chuyên biệt. Phương pháp "chia để trị" này giúp giảm đáng kể số lượng tham số thực tế phải tính toán trên mỗi token, cho phép các dòng chip thế hệ cũ vẫn có thể xử lý mượt mà tác vụ của một siêu mô hình.
Cuối cùng Moonshot AI dịch chuyển áp lực từ một con chip đơn lẻ sang tư duy xử lý song song thông qua biến thể K3 Swarm Max. Thay vì cố gắng tăng tốc độ xử lý của một luồng bằng phần cứng siêu mạnh, cấu trúc này tự động chia tách các bài toán lập trình hoặc tác vụ hệ thống phức tạp thành các nhánh đại lý (sub-agents) độc lập hoạt động song song đồng thời. Bằng cách tối ưu hóa "hiệu suất theo cụm đại lý" thay vì cố gắng đạt đỉnh hiệu suất trên một phần cứng đơn lẻ, Kimi K3 đạt được năng lực tư duy hàng đầu thế giới mà không cần đến những kiến trúc bán dẫn mới nhất bị Mỹ cấm vận.
>> Kimi K3: Mô hình AI mã nguồn mở lớn nhất thế giới chính thức lộ diện, thách thức cả GPT-5.6 Sol và Claude Fable
