"Choáng" với chi phí nhà nghiên cứu của OpenAI bỏ ra mỗi ngày cho token AI

Mẫn Nhi
Mẫn Nhi
Phản hồi: 0

Mẫn Nhi

Admin xinh gái
Nhóm 10% nhà nghiên cứu tích cực nhất tại OpenAI đang sử dụng lượng token trị giá tới 7.000 USD mỗi ngày cho các tác nhân lập trình, phản ánh bước chuyển dịch rõ nét trong phương thức vận hành công việc nội bộ.

Trong thông báo cập nhật trên blog vào cuối tuần qua, OpenAI cho biết sự phát triển của các tác nhân lập trình (coding agent) đang hỗ trợ đội ngũ nhân sự viết mã nhanh hơn, mở rộng quy mô thử nghiệm và giao phó những tác vụ ngày càng phức tạp cho hệ thống tự động.

1788928462417.png

Mức độ sử dụng tác nhân AI trong nhóm nghiên cứu đã ghi nhận mức tăng trưởng vượt bậc suốt ba tháng qua, bỏ xa các bộ phận khác trong công ty. Đến thời điểm giữa tháng 8, trung bình mỗi nhà nghiên cứu tiêu thụ lượng token trị giá hơn 600 USD mỗi ngày – đây là đơn vị cơ bản biểu thị dữ liệu đầu vào và đầu ra của mô hình trí tuệ nhân tạo. Mức này đã tăng đáng kể so với con số 162 USD ghi nhận vào tháng 7. Đáng chú ý, nhóm 10% người dùng nhiều nhất tiêu tốn hơn 7.000 USD token mỗi ngày. Doanh nghiệp lưu ý số liệu này được ước tính dựa trên mức giá niêm yết khi gọi API suy luận, không phải khoản chi phí thực tế mà OpenAI phải bỏ ra.

Đơn vị phát triển ChatGPT cho biết các tác nhân tự động ngày càng đảm nhiệm nhiều khâu xử lý sự cố kỹ thuật. Nhờ đó, số lượng bài yêu cầu trợ giúp trên kênh hỗ trợ kỹ thuật nội bộ do nhân sự con người vận hành đã giảm hơn một nửa kể từ đầu năm đến nay.

Cùng với đó, công ty tuyên bố đã hoàn thành mục tiêu mà CEO Sam Altman đặt ra năm ngoái về việc phát triển một "thực tập sinh nghiên cứu tự động", tức hệ thống có thể thực hiện công việc dưới sự định hướng của con người. OpenAI cũng khẳng định đang duy trì đúng tiến độ để hướng tới việc xây dựng "nhà nghiên cứu AI hoàn toàn tự động" vào thời điểm tháng 3/2028.

Áp lực chi phí và gánh nặng giám sát​

Sự bùng nổ và hiệu quả ngày càng cao của tác nhân lập trình đang định hình lại lĩnh vực kỹ thuật phần mềm trong năm qua, theo đánh giá từ Business Insider. Rất nhiều lập trình viên hiện có thói quen giao toàn bộ đầu việc cho AI rồi mới rà soát lại kết quả. Dù giải pháp này được nhìn nhận là giúp đẩy nhanh tiến độ, không ít kỹ sư chia sẻ họ vẫn gặp nhiều rắc rối trong khâu chỉnh sửa và dọn dẹp mã nguồn.

Khảo sát công bố vào giữa tháng 6 do Viện nghiên cứu AI Công việc (WAI) thuộc công ty Glean thực hiện cùng Đại học Stanford, Đại học California Berkeley và Đại học Notre Dame cho thấy, nhân sự văn phòng đang phải bỏ ra trung bình 6,4 giờ mỗi tuần chỉ để cung cấp ngữ cảnh, rà soát kết quả và xử lý các sai sót phát sinh từ bot AI.

Báo cáo dùng cụm từ "bảo mẫu bot" nhằm gọi tên phần việc quan trọng nhưng ít khi được nhìn nhận xứng đáng này. Bà Rebecca Hinds, người phụ trách WAI, cho rằng vai trò bảo mẫu bot thường tẻ nhạt, dễ gây kiệt sức và hầu như không được đo đạc hay khen thưởng cụ thể trong tổ chức.

Bên cạnh gánh nặng giám sát, chi phí tiêu hao token cũng là bài toán khiến giới công nghệ phải thận trọng. Vào tháng 5, The Verge từng đưa tin Microsoft đã thu hồi phần lớn giấy phép truy cập trực tiếp công cụ Claude Code do Anthropic phát triển, đồng thời yêu cầu nhân sự chuyển qua sử dụng GitHub Copilot CLI nhằm ưu tiên giải pháp nội bộ. Dẫu vậy, một số nguồn thạo tin cho biết động thái này xuất phát từ việc chi phí vận hành Claude Code tăng vọt khi quy mô sử dụng mở rộng.
 
Back
Top