NVIDIA và CoreWeave rút ngắn 15 lần thời gian nạp lại mô hình
Nạp lại nhanh hơn nghĩa là GPU ít phải chờ trong giai đoạn hậu huấn luyện RL
TL;DR:
- CoreWeave kết hợp ModelExpress và Router trong NVIDIA Dynamo để đẩy nhanh việc nạp lại trọng số mô hình
- Nhờ vậy, tốc độ nạp lại Nemotron 3.5 Lightning nhanh hơn 15 lần so với cách làm thông thường của CoreWeave
Tiêu đề
NVIDIA và CoreWeave giảm 15 lần thời gian nạp lại mô hình trong giai đoạn hậu huấn luyện bằng học tăng cường.
Tóm tắt
CoreWeave triển khai ModelExpress và Router trong NVIDIA Dynamo để xử lý các lần nạp lại trọng số mô hình lặp đi lặp lại thường gặp trong quy trình hậu huấn luyện RL. Phối hợp cùng NVIDIA và You.com, công ty đạt tốc độ nạp lại nhanh hơn 15 lần so với thiết lập thông thường khi huấn luyện Nemotron 3.5 Lightning.
Phân tích
Di chuyển trọng số mô hình và điều phối các worker suy luận đang trở thành điểm nghẽn rõ rệt trong hậu huấn luyện mô hình lớn, bên cạnh quy mô GPU. Khi thời gian nạp lại được rút ngắn, GPU ít phải chờ hơn, chu kỳ huấn luyện → sinh dữ liệu → huấn luyện lại diễn ra nhanh hơn, chi phí giảm và tốc độ thử nghiệm các job RL được cải thiện.
Dynamo giúp NVIDIA mở rộng câu chuyện kinh doanh vượt ra ngoài phần cứng tăng tốc. Nền tảng này bổ sung lớp phần mềm điều phối và phục vụ mô hình, qua đó nâng cao mức độ khai thác GPU.
Với CoreWeave, kết quả này tạo ra lợi thế hiệu năng khi công ty tiếp cận nhóm khách hàng AI cloud. Đồng thời, thử nghiệm cũng cung cấp cho NVIDIA một phép kiểm chứng trực tiếp về hệ thống Nemotron trong các workload RL ở quy mô doanh nghiệp.
Kết luận
Nút thắt của hậu huấn luyện RL không chỉ nằm ở số lượng GPU, mà còn ở tốc độ luân chuyển trọng số và khả năng phối hợp worker suy luận. Phần mềm tối ưu hóa hạ tầng có thể tạo ra tác động đáng kể đến mức sử dụng tài nguyên và chi phí vận hành.
Kết luận: Người xây dựng hạ tầng AI và các đội ngũ phát triển mô hình đang ở vị thế sớm và được hưởng lợi trực tiếp từ xu hướng này; trader và holder dài hạn gần như không liên quan đến câu chuyện.