Nvidia tung Llama-3.1-Nemotron-70B-Instruct: Khi mã nguồn mở đánh bại các mô hình độc quyền hàng đầu

Vũ Nguyễn
Vũ Nguyễn✔
Phản hồi: 0
Theo Ars Technica, nvidia vừa gây bất ngờ lớn cho toàn ngành trí tuệ nhân tạo khi chính thức phát hành mô hình Llama-3.1-Nemotron-70B-Instruct dưới dạng trọng số mở (open weights). Dựa trên nền tảng kiến trúc gốc Llama 3.1 70B của Meta, đội ngũ nghiên cứu của Nvidia đã thực hiện một bước nhảy vọt về kỹ thuật tinh chỉnh để biến mô hình này thành một cỗ máy suy luận vượt trội, bất ngờ vượt qua cả các tượng đài thương mại hàng đầu như GPT-4o của OpenAI và Claude 3.5 Sonnet trên hàng loạt bảng xếp hạng chuẩn hóa khắt khe. Theo phân tích chi tiết trên trang tin arstechnica.com, sự xuất hiện của Nemotron-70B đã làm đảo lộn hoàn toàn nhận thức cố hữu rằng chỉ có các siêu tập đoàn sở hữu mô hình độc quyền đóng kín mới có thể duy trì vị thế dẫn đầu về hiệu năng.

Bí quyết kỹ thuật giúp Nvidia đạt được kỳ tích này nằm ở quy trình căn chỉnh hậu huấn luyện (post-training alignment) mang tính đột phá, kết hợp giữa mô hình thưởng Nemotron-4-340B-Reward và thuật toán tối ưu hóa chính sách trực tiếp (Direct Preference Optimization - DPO). Thay vì chỉ đơn thuần tăng kích thước tham số hay nạp thêm dữ liệu thô, các kỹ sư Nvidia tập trung tối ưu hóa độ sâu sắc và tính mạch lạc của câu trả lời thông qua phương pháp học tăng cường từ phản hồi nơ-ron (RLHF). Mô hình được huấn luyện nghiêm ngặt để nhận biết và loại bỏ các phản hồi hời hợt, tăng cường khả năng bám sát ngữ cảnh chỉ dẫn phức tạp, giải quyết các bài toán lập trình nhiều tầng và duy trì phong cách viết tự nhiên, thuyết phục.

Trên các đấu trường benchmark uy tín như Chatbot Arena Hard, Nemotron-70B-Instruct đạt điểm số ấn tượng 85.0, vượt qua điểm 79.3 của GPT-4o và 79.2 của Claude 3.5 Sonnet. Trên bảng xếp hạng AlpacaEval 2.0 đo lường độ hài lòng của người dùng cuối, mô hình đạt tỷ lệ chiến thắng áp đảo 94.1%, thiết lập một kỷ lục mới cho các mô hình có kích thước dưới 100 tỷ tham số. Thành tích này chứng minh rằng việc tối ưu hóa chất lượng dữ liệu căn chỉnh và thuật toán khen thưởng có thể bù đắp hoàn toàn khoảng cách về số lượng tham số phần cứng, mở ra một hướng đi hiệu quả và tiết kiệm chi phí hơn nhiều cho toàn bộ hệ sinh thái mã nguồn mở.
1792116068172.png
Song song với việc công bố mô hình, Nvidia cũng nhanh chóng tận dụng lợi thế phần cứng để công bố các quan hệ đối tác chiến lược với Cisco và Accenture nhằm đưa Nemotron-70B vào trung tâm của các kiến trúc điện toán doanh nghiệp. Bằng cách kết hợp mô hình với bộ công cụ suy luận TensorRT-LLM và nền tảng cụm máy chủ NeMo, các doanh nghiệp có thể tự triển khai toàn bộ hệ thống AI thông minh ngay trên hạ tầng máy chủ nội bộ (on-premise) hoặc điện toán đám mây riêng mà không phải lo ngại về nguy cơ rò rỉ dữ liệu mật sang các bên cung cấp dịch vụ thứ ba. Điều này đánh trúng vào nỗi lo ngại lớn nhất của giới tài chính, y tế và quốc phòng trong việc áp dụng AI vào quy trình tác nghiệp cốt lõi.

Hệ quả dài hạn của đòn phản công từ Nvidia là sự tái cân bằng quyền lực ngoạn mục trong thị trường trí tuệ nhân tạo toàn cầu. Khi một mô hình 70 tỷ tham số có thể chạy mượt mà trên một máy trạm đơn lẻ trang bị vài GPU máy tính cá nhân cao cấp nhưng mang lại chất lượng tương đương các siêu máy chủ đám mây triệu USD, rào cản ứng dụng AI tinh hoa đã chính thức bị phá bỏ. Động thái này không chỉ củng cố vị thế độc tôn của Nvidia trên thị trường bán dẫn và giải pháp phần mềm toàn diện, mà còn truyền cảm hứng mạnh mẽ cho phong trào dân chủ hóa AI, đảm bảo rằng tương lai của trí tuệ nhân tạo sẽ không bị thao túng bởi một vài cánh cửa đóng kín.
 
Back
Top