Mô hình mở trọng số đang chiếm lĩnh workload agent
Khoảng cách hiệu năng với mô hình đóng đang thu hẹp khi mô hình mở được dùng nhiều hơn
TL;DR:
- Mô hình mở trọng số đã ngang bằng mô hình đóng ở hầu hết tác vụ agent thực tế
- Tỷ lệ sử dụng chúng trong agentic workloads tăng từ 30% lên 78% chỉ sau 13 tuần
- Cạnh tranh giờ tập trung vào chi phí, độ trễ và độ tin cậy qua retry và tool call
Tiêu đề
Các mô hình mở trọng số đang chiếm vị trí lớn hơn trong phần mềm agent khi khoảng cách với mô hình đóng tiếp tục thu hẹp.
Tóm tắt
Together AI đã giới thiệu bài nói chuyện của Yogish Baliga, trong đó chỉ ra rằng các mô hình mở trọng số hiện đã ngang bằng mô hình đóng trong phần lớn tác vụ thường ngày và có thể vượt qua chúng ở một số workflow nhờ chạy inference nhiều lần. Dữ liệu từ Vercel AI Gateway cho thấy tỷ trọng của mô hình mở trong các workload agent đã tăng từ 30% lên 78% chỉ trong 13 tuần.
Phân tích
Xu hướng này chuyển trọng tâm cạnh tranh khỏi điểm số benchmark của một lần gọi model, sang chi phí trên mỗi đơn vị chất lượng, độ trễ và tính nhất quán trong toàn bộ chuỗi retry, tool call và vòng lặp đánh giá.
Các workflow multi-pass tạo lợi thế cho nhà cung cấp mô hình mở vì developer có thể:
- Thêm nhiều lượt inference để cải thiện kết quả;
- Duy trì quyền kiểm soát lớn hơn đối với việc triển khai, tùy biến và chi phí;
- Điều chỉnh routing và lựa chọn model mà không phải viết lại phần lớn code.
Các nền tảng gateway và routing biến việc chuyển đổi model thành thay đổi cấu hình thay vì một dự án tái cấu trúc phần mềm. Điều này gây áp lực lên mức giá của mô hình đóng trong các workload agent mang tính thường quy. Tuy nhiên, nghiên cứu frontier và các use case đòi hỏi hiệu năng single-pass cao vẫn đang nghiêng về phía các nhà cung cấp mô hình đóng.
Cần phân biệt rõ: nhận định này nói về open weights, không nhất thiết bao hàm dữ liệu training hay mã nguồn mở. Vì vậy, open weights giúp mở rộng khả năng triển khai và tiếp cận model, nhưng chưa đồng nghĩa với khả năng tái lập hoàn toàn mô hình.
Đánh giá tác động
Mức độ quan trọng cao. Danh mục: Xu hướng ngành, Insight kỹ thuật, Mã nguồn mở.
Verdict: Người tham gia vẫn đang ở giai đoạn sớm của narrative open-weight trong agent workloads; builder là nhóm có lợi thế rõ ràng nhất nhờ kiểm soát tốt hơn chi phí, routing và khả năng tùy biến, trong khi trader, holder dài hạn và các quỹ chưa có lợi thế trực tiếp từ riêng xu hướng này.