Vũ Nguyễn✔
Writer
OpenAI vừa công bố những kết quả hiệu năng đầu tiên của Jalapeño, chip AI chuyên dụng đầu tiên do hãng thiết kế và hợp tác phát triển cùng Broadcom. Điều gây chú ý là ngay ở thế hệ đầu tiên, Jalapeño đã đạt hiệu năng suy luận và hiệu quả năng lượng vượt một số hệ thống Nvidia Blackwell trong các bài kiểm tra được công bố ngày 25/8. Đây là kết quả khá bất thường đối với một chip thế hệ đầu, bởi các thiết kế mới thường cần vài thế hệ mới có thể cạnh tranh với những nền tảng đã trưởng thành của Nvidia.
Thông tin ban đầu người dùng chia sẻ gọi con chip này là “Little Pepper” hoặc “Chili Pepper”, song tên chính thức của chip là Jalapeño. OpenAI đã công bố Jalapeño từ ngày 24/6/2026 và xác nhận đây là bộ tăng tốc được thiết kế từ đầu cho quá trình suy luận của các mô hình ngôn ngữ lớn, thay vì một GPU đa dụng. OpenAI phụ trách thiết kế kiến trúc dựa trên nhu cầu vận hành ChatGPT, Codex và các sản phẩm AI của mình, trong khi Broadcom tham gia triển khai silicon, mạng và kết nối, còn Celestica hỗ trợ bo mạch, rack và tích hợp hệ thống.
Jalapeño mạnh đến đâu so với Nvidia Blackwell?
Các con số gây chú ý xuất phát từ bài đánh giá của SemiAnalysis, đơn vị nghiên cứu bán dẫn được OpenAI mời tới phòng thí nghiệm để kiểm tra Jalapeño bằng bộ benchmark InferenceX. Đây là điểm cần phân biệt rõ, bởi kết quả không đơn thuần là tuyên bố tiếp thị của OpenAI, song cũng chưa phải một cuộc thử nghiệm độc lập hoàn toàn trên mọi workload thực tế. SemiAnalysis cho biết Jalapeño thế hệ đầu tiên đã vượt những chip Nvidia, AMD và Google mà họ từng kiểm tra trên nhiều mô hình mã nguồn mở lớn. Trong tài liệu ban đầu cũng nêu rõ SemiAnalysis được mời trực tiếp tới phòng thí nghiệm OpenAI để tiến hành đánh giá.
Một trong những lợi thế nổi bật nhất nằm ở hiệu quả năng lượng. Jalapeño có TDP 700 W, trong khi các hệ thống Nvidia Blackwell cao cấp cần mức công suất lớn hơn đáng kể. Trong các phép thử với GPT-OSS 120B, DeepSeek R1 và Kimi K2.5, Jalapeño đạt thông lượng suy luận trên mỗi kilowatt cao hơn khoảng 1,5 đến 1,9 lần so với GB200 NVL72 và GB300 NVL72, đồng thời độ trễ suy luận đầu cuối thấp hơn khoảng 1,7 đến 3,6 lần trong các phép so sánh được công bố.
Khả năng xử lý ở độ đồng thời thấp đặc biệt đáng chú ý đối với các ứng dụng tương tác. Theo dữ liệu trong tài liệu, GPT-OSS và Kimi K2.5 có thể đạt khoảng 1.400 token/giây cho mỗi người dùng, còn DeepSeek R1 vượt 700 token/giây ở concurrency 1. Đây là đặc tính quan trọng đối với ChatGPT hoặc AI Agent, bởi người dùng không chỉ cần hệ thống xử lý được tổng lượng token khổng lồ mà còn muốn từng câu trả lời xuất hiện nhanh, đặc biệt khi một Agent phải thực hiện liên tiếp hàng chục bước suy luận.
Vì sao OpenAI có thể tạo chip cạnh tranh ngay từ thế hệ đầu?
Jalapeño có một lợi thế rất khác GPU truyền thống: nó được thiết kế chuyên biệt cho LLM inference, tức chạy những mô hình đã được huấn luyện, thay vì cố gắng đáp ứng mọi loại tác vụ tính toán AI. OpenAI có trong tay dữ liệu rất chi tiết về cách ChatGPT, Codex và API thực sự vận hành, vì vậy hãng có thể tối ưu kiến trúc chip, bộ nhớ, kernel, networking và serving theo đúng workload mà mình cần xử lý. OpenAI mô tả đây là lợi thế của chiến lược “full stack”, khi cùng một công ty có thể đồng thời tối ưu từ model, phần mềm, kernel cho tới phần cứng bên dưới.
Thông số phần cứng cũng cho thấy Jalapeño được xây dựng rất quyết liệt cho mục tiêu này. Theo thông tin được công bố tại Hot Chips 2026, hệ thống sử dụng HBM4, một package có băng thông bộ nhớ khoảng 15,4 TB/s; rack Jalapeño gồm 128 chip, cung cấp tổng cộng khoảng 27,5 TB HBM4 và 1,7 exaflops năng lực tính toán 4-bit. Việc tối ưu luồng dữ liệu giữa bộ nhớ và đơn vị tính toán đặc biệt quan trọng đối với LLM, bởi hiệu suất thực tế không chỉ phụ thuộc số FLOPS lý thuyết mà còn phụ thuộc khả năng liên tục cung cấp dữ liệu cho các đơn vị xử lý.
Điều thú vị hơn: AI được dùng để thiết kế chip chạy AI
Một trong những chi tiết đáng chú ý nhất của dự án Jalapeño là OpenAI đã sử dụng chính các mô hình AI của mình để hỗ trợ quá trình phát triển chip. Theo OpenAI, việc đồng phát triển phần cứng và phần mềm cùng sự hỗ trợ của các mô hình AI đã giúp chương trình đạt chu kỳ tape-out chỉ trong khoảng 9 tháng, tốc độ rất nhanh đối với một ASIC hiệu năng cao.
Tài liệu được chia sẻ còn cho biết Codex và các mô hình OpenAI được sử dụng trong quá trình tối ưu thiết kế, trong đó AI tham gia viết các kernel xử lý và một số kernel do AI tạo đạt tốc độ cao hơn khoảng 1,5 đến 1,8 lần so với phiên bản do chuyên gia con người viết. Quá trình tối ưu phần mềm cũng diễn ra rất nhanh, khi hệ thống mở rộng từ TP8 lên TP32 chỉ trong 8 ngày và thông lượng trong một số điều kiện được cải thiện hơn gấp đôi chưa đầy hai tuần sau đó.
Điều này tạo ra một vòng lặp khá thú vị của ngành AI: GPU hiện tại chạy các mô hình AI, các mô hình AI đó lại giúp kỹ sư thiết kế và tối ưu thế hệ chip mới, rồi chip mới tiếp tục chạy AI nhanh và tiết kiệm điện hơn. Nếu vòng lặp này tiếp tục được rút ngắn, AI có thể trở thành một công cụ quan trọng trong chính quá trình phát triển phần cứng AI thế hệ tiếp theo.
Chưa thể kết luận Jalapeño đã “đánh bại Nvidia”
Các con số rất ấn tượng, song nói Jalapeño đã đánh bại Nvidia một cách toàn diện sẽ là kết luận quá sớm. Trước hết, đây là chip chuyên dụng cho inference, không phải bộ tăng tốc được OpenAI định vị để thay thế GPU Nvidia trong huấn luyện các mô hình frontier. Vì vậy, việc so sánh Jalapeño với Nvidia cần đặt trong đúng loại workload mà con chip này được thiết kế để xử lý.
Quan trọng hơn, các benchmark cũng có những điều kiện kỹ thuật cần được hiểu đúng. Tài liệu ban đầu cho biết các kết quả Jalapeño được đo với single-token prediction, trong khi một số kết quả Blackwell sử dụng multi-token prediction; khi tính đến khác biệt này, lợi thế hiệu quả năng lượng tối đa so với GB300 giảm xuống khoảng 1,5 lần. SemiAnalysis cũng mới xác minh InferenceX trong phòng thí nghiệm, chưa thực hiện toàn bộ AgentX với những hội thoại nhiều lượt, context dài và workload gần với môi trường production hơn.
Đối thủ thực sự của Jalapeño trong tương lai còn có thể là Nvidia Rubin, thế hệ kế nhiệm Blackwell. Chính SemiAnalysis cho rằng đây mới là phép so sánh đáng chú ý hơn bởi cả hai nền tảng đều bước sang HBM4. Vì vậy, Jalapeño hiện chứng minh rằng OpenAI có khả năng tạo ra một bộ tăng tốc inference rất cạnh tranh ngay từ thế hệ đầu, chứ chưa chứng minh Nvidia đã mất lợi thế công nghệ.
OpenAI chưa có ý định từ bỏ Nvidia
Việc tự phát triển chip cũng không có nghĩa OpenAI chuẩn bị loại Nvidia khỏi các trung tâm dữ liệu của mình. Chiến lược hiện nay của công ty là xây dựng một danh mục hạ tầng đa dạng gồm Microsoft, AWS, Oracle, CoreWeave, AMD, Broadcom, Cerebras và Nvidia, lựa chọn từng nền tảng theo hiệu năng, chi phí và loại workload phù hợp. OpenAI thừa nhận chip Nvidia và hạ tầng Microsoft đã đóng vai trò nền tảng trong quá trình phát triển của công ty.
Điều OpenAI thực sự muốn đạt được có lẽ không phải “tiêu diệt Nvidia”, mà là giảm sự phụ thuộc vào một loại phần cứng duy nhất và giành quyền kiểm soát sâu hơn đối với chi phí suy luận. Với hàng trăm triệu người sử dụng ChatGPT cùng sự phát triển của AI Agent, chỉ cần giảm một phần nhỏ điện năng hoặc chi phí trên mỗi token cũng có thể tạo ra khác biệt kinh tế rất lớn khi nhân lên ở quy mô hàng tỷ lượt suy luận.
Jalapeño vì thế có ý nghĩa lớn hơn một cuộc đua benchmark. Trước đây OpenAI chủ yếu xây dựng model và sản phẩm trên hạ tầng phần cứng của các đối tác; giờ đây hãng đang tiến sâu xuống tầng thấp nhất của hệ thống, từ model, phần mềm, kernel, mạng cho tới chính silicon. OpenAI và Broadcom trước đó đã công bố kế hoạch hợp tác triển khai tới 10 GW bộ tăng tốc AI tùy chỉnh trong nhiều năm, cho thấy chip tự thiết kế không phải một thử nghiệm nhỏ mà là một phần trong chiến lược hạ tầng dài hạn.
Các mẫu kỹ thuật Jalapeño hiện đã hoạt động trong phòng thí nghiệm và OpenAI dự kiến bắt đầu triển khai hạn chế vào cuối năm 2026, sau đó mở rộng sản xuất trong năm 2027. Nếu hiệu năng trong môi trường production giữ được lợi thế như các benchmark ban đầu, tác động đáng chú ý nhất có thể không phải là Nvidia lập tức mất vị thế, mà là OpenAI lần đầu tiên sở hữu một con chip được thiết kế chính xác cho cách AI của mình hoạt động, đồng thời sử dụng chính AI để tăng tốc quá trình tạo ra những thế hệ chip tiếp theo.
Thông tin ban đầu người dùng chia sẻ gọi con chip này là “Little Pepper” hoặc “Chili Pepper”, song tên chính thức của chip là Jalapeño. OpenAI đã công bố Jalapeño từ ngày 24/6/2026 và xác nhận đây là bộ tăng tốc được thiết kế từ đầu cho quá trình suy luận của các mô hình ngôn ngữ lớn, thay vì một GPU đa dụng. OpenAI phụ trách thiết kế kiến trúc dựa trên nhu cầu vận hành ChatGPT, Codex và các sản phẩm AI của mình, trong khi Broadcom tham gia triển khai silicon, mạng và kết nối, còn Celestica hỗ trợ bo mạch, rack và tích hợp hệ thống.
Jalapeño mạnh đến đâu so với Nvidia Blackwell?
Các con số gây chú ý xuất phát từ bài đánh giá của SemiAnalysis, đơn vị nghiên cứu bán dẫn được OpenAI mời tới phòng thí nghiệm để kiểm tra Jalapeño bằng bộ benchmark InferenceX. Đây là điểm cần phân biệt rõ, bởi kết quả không đơn thuần là tuyên bố tiếp thị của OpenAI, song cũng chưa phải một cuộc thử nghiệm độc lập hoàn toàn trên mọi workload thực tế. SemiAnalysis cho biết Jalapeño thế hệ đầu tiên đã vượt những chip Nvidia, AMD và Google mà họ từng kiểm tra trên nhiều mô hình mã nguồn mở lớn. Trong tài liệu ban đầu cũng nêu rõ SemiAnalysis được mời trực tiếp tới phòng thí nghiệm OpenAI để tiến hành đánh giá.
Một trong những lợi thế nổi bật nhất nằm ở hiệu quả năng lượng. Jalapeño có TDP 700 W, trong khi các hệ thống Nvidia Blackwell cao cấp cần mức công suất lớn hơn đáng kể. Trong các phép thử với GPT-OSS 120B, DeepSeek R1 và Kimi K2.5, Jalapeño đạt thông lượng suy luận trên mỗi kilowatt cao hơn khoảng 1,5 đến 1,9 lần so với GB200 NVL72 và GB300 NVL72, đồng thời độ trễ suy luận đầu cuối thấp hơn khoảng 1,7 đến 3,6 lần trong các phép so sánh được công bố.
Khả năng xử lý ở độ đồng thời thấp đặc biệt đáng chú ý đối với các ứng dụng tương tác. Theo dữ liệu trong tài liệu, GPT-OSS và Kimi K2.5 có thể đạt khoảng 1.400 token/giây cho mỗi người dùng, còn DeepSeek R1 vượt 700 token/giây ở concurrency 1. Đây là đặc tính quan trọng đối với ChatGPT hoặc AI Agent, bởi người dùng không chỉ cần hệ thống xử lý được tổng lượng token khổng lồ mà còn muốn từng câu trả lời xuất hiện nhanh, đặc biệt khi một Agent phải thực hiện liên tiếp hàng chục bước suy luận.
Vì sao OpenAI có thể tạo chip cạnh tranh ngay từ thế hệ đầu?
Jalapeño có một lợi thế rất khác GPU truyền thống: nó được thiết kế chuyên biệt cho LLM inference, tức chạy những mô hình đã được huấn luyện, thay vì cố gắng đáp ứng mọi loại tác vụ tính toán AI. OpenAI có trong tay dữ liệu rất chi tiết về cách ChatGPT, Codex và API thực sự vận hành, vì vậy hãng có thể tối ưu kiến trúc chip, bộ nhớ, kernel, networking và serving theo đúng workload mà mình cần xử lý. OpenAI mô tả đây là lợi thế của chiến lược “full stack”, khi cùng một công ty có thể đồng thời tối ưu từ model, phần mềm, kernel cho tới phần cứng bên dưới.
Thông số phần cứng cũng cho thấy Jalapeño được xây dựng rất quyết liệt cho mục tiêu này. Theo thông tin được công bố tại Hot Chips 2026, hệ thống sử dụng HBM4, một package có băng thông bộ nhớ khoảng 15,4 TB/s; rack Jalapeño gồm 128 chip, cung cấp tổng cộng khoảng 27,5 TB HBM4 và 1,7 exaflops năng lực tính toán 4-bit. Việc tối ưu luồng dữ liệu giữa bộ nhớ và đơn vị tính toán đặc biệt quan trọng đối với LLM, bởi hiệu suất thực tế không chỉ phụ thuộc số FLOPS lý thuyết mà còn phụ thuộc khả năng liên tục cung cấp dữ liệu cho các đơn vị xử lý.
Điều thú vị hơn: AI được dùng để thiết kế chip chạy AI
Một trong những chi tiết đáng chú ý nhất của dự án Jalapeño là OpenAI đã sử dụng chính các mô hình AI của mình để hỗ trợ quá trình phát triển chip. Theo OpenAI, việc đồng phát triển phần cứng và phần mềm cùng sự hỗ trợ của các mô hình AI đã giúp chương trình đạt chu kỳ tape-out chỉ trong khoảng 9 tháng, tốc độ rất nhanh đối với một ASIC hiệu năng cao.
Tài liệu được chia sẻ còn cho biết Codex và các mô hình OpenAI được sử dụng trong quá trình tối ưu thiết kế, trong đó AI tham gia viết các kernel xử lý và một số kernel do AI tạo đạt tốc độ cao hơn khoảng 1,5 đến 1,8 lần so với phiên bản do chuyên gia con người viết. Quá trình tối ưu phần mềm cũng diễn ra rất nhanh, khi hệ thống mở rộng từ TP8 lên TP32 chỉ trong 8 ngày và thông lượng trong một số điều kiện được cải thiện hơn gấp đôi chưa đầy hai tuần sau đó.
Điều này tạo ra một vòng lặp khá thú vị của ngành AI: GPU hiện tại chạy các mô hình AI, các mô hình AI đó lại giúp kỹ sư thiết kế và tối ưu thế hệ chip mới, rồi chip mới tiếp tục chạy AI nhanh và tiết kiệm điện hơn. Nếu vòng lặp này tiếp tục được rút ngắn, AI có thể trở thành một công cụ quan trọng trong chính quá trình phát triển phần cứng AI thế hệ tiếp theo.
Chưa thể kết luận Jalapeño đã “đánh bại Nvidia”
Các con số rất ấn tượng, song nói Jalapeño đã đánh bại Nvidia một cách toàn diện sẽ là kết luận quá sớm. Trước hết, đây là chip chuyên dụng cho inference, không phải bộ tăng tốc được OpenAI định vị để thay thế GPU Nvidia trong huấn luyện các mô hình frontier. Vì vậy, việc so sánh Jalapeño với Nvidia cần đặt trong đúng loại workload mà con chip này được thiết kế để xử lý.
Quan trọng hơn, các benchmark cũng có những điều kiện kỹ thuật cần được hiểu đúng. Tài liệu ban đầu cho biết các kết quả Jalapeño được đo với single-token prediction, trong khi một số kết quả Blackwell sử dụng multi-token prediction; khi tính đến khác biệt này, lợi thế hiệu quả năng lượng tối đa so với GB300 giảm xuống khoảng 1,5 lần. SemiAnalysis cũng mới xác minh InferenceX trong phòng thí nghiệm, chưa thực hiện toàn bộ AgentX với những hội thoại nhiều lượt, context dài và workload gần với môi trường production hơn.
Đối thủ thực sự của Jalapeño trong tương lai còn có thể là Nvidia Rubin, thế hệ kế nhiệm Blackwell. Chính SemiAnalysis cho rằng đây mới là phép so sánh đáng chú ý hơn bởi cả hai nền tảng đều bước sang HBM4. Vì vậy, Jalapeño hiện chứng minh rằng OpenAI có khả năng tạo ra một bộ tăng tốc inference rất cạnh tranh ngay từ thế hệ đầu, chứ chưa chứng minh Nvidia đã mất lợi thế công nghệ.
OpenAI chưa có ý định từ bỏ Nvidia
Việc tự phát triển chip cũng không có nghĩa OpenAI chuẩn bị loại Nvidia khỏi các trung tâm dữ liệu của mình. Chiến lược hiện nay của công ty là xây dựng một danh mục hạ tầng đa dạng gồm Microsoft, AWS, Oracle, CoreWeave, AMD, Broadcom, Cerebras và Nvidia, lựa chọn từng nền tảng theo hiệu năng, chi phí và loại workload phù hợp. OpenAI thừa nhận chip Nvidia và hạ tầng Microsoft đã đóng vai trò nền tảng trong quá trình phát triển của công ty.
Điều OpenAI thực sự muốn đạt được có lẽ không phải “tiêu diệt Nvidia”, mà là giảm sự phụ thuộc vào một loại phần cứng duy nhất và giành quyền kiểm soát sâu hơn đối với chi phí suy luận. Với hàng trăm triệu người sử dụng ChatGPT cùng sự phát triển của AI Agent, chỉ cần giảm một phần nhỏ điện năng hoặc chi phí trên mỗi token cũng có thể tạo ra khác biệt kinh tế rất lớn khi nhân lên ở quy mô hàng tỷ lượt suy luận.
Jalapeño vì thế có ý nghĩa lớn hơn một cuộc đua benchmark. Trước đây OpenAI chủ yếu xây dựng model và sản phẩm trên hạ tầng phần cứng của các đối tác; giờ đây hãng đang tiến sâu xuống tầng thấp nhất của hệ thống, từ model, phần mềm, kernel, mạng cho tới chính silicon. OpenAI và Broadcom trước đó đã công bố kế hoạch hợp tác triển khai tới 10 GW bộ tăng tốc AI tùy chỉnh trong nhiều năm, cho thấy chip tự thiết kế không phải một thử nghiệm nhỏ mà là một phần trong chiến lược hạ tầng dài hạn.
Các mẫu kỹ thuật Jalapeño hiện đã hoạt động trong phòng thí nghiệm và OpenAI dự kiến bắt đầu triển khai hạn chế vào cuối năm 2026, sau đó mở rộng sản xuất trong năm 2027. Nếu hiệu năng trong môi trường production giữ được lợi thế như các benchmark ban đầu, tác động đáng chú ý nhất có thể không phải là Nvidia lập tức mất vị thế, mà là OpenAI lần đầu tiên sở hữu một con chip được thiết kế chính xác cho cách AI của mình hoạt động, đồng thời sử dụng chính AI để tăng tốc quá trình tạo ra những thế hệ chip tiếp theo.
