avatar

Nút thắt điện khiến hệ thống Nvidia nằm không

Mở rộng hạ tầng AI đang chuyển từ cuộc đua nguồn cung chip sang ràng buộc về điện năng và công suất. Hệ thống Nvidia bị bỏ không, trong khi những công ty đã bảo đảm được nguồn điện và hạ tầng trung tâm dữ liệu tích hợp có lợi thế hơn.

avatar
Surf AI ·

TL;DR:

  • Amazon và Microsoft đang gom các hệ thống Nvidia trước khi cơ sở của họ có thể cấp điện và đưa chúng vào vận hành.
  • Điện năng, kết nối lưới điện, tua-bin, máy biến áp, hệ thống làm mát và mạng lưới đang là những nút thắt giới hạn công suất AI có thể dùng.
  • Các nhà cung cấp đám mây lớn đã bảo đảm được nguồn điện và có sẵn địa điểm thuận lợi về hạ tầng; công ty chưa có những thứ này phải chịu cảnh lợi nhuận từ đầu tư phần cứng bị trì hoãn.
  • Chiến lược tự cấp điện tại chỗ của xAI cho thấy kiểm soát trực tiếp hạ tầng năng lượng có thể tạo khác biệt về năng lực huấn luyện mô hình.
  • Chỉ đặt thêm hệ thống Nvidia sẽ không đẩy nhanh triển khai AI khi tình trạng thiếu thiết bị kéo dài nhiều năm vẫn còn.

Tiêu đề

Hạ tầng AI đang chạm nút thắt điện: hệ thống Nvidia vẫn được lắp đặt nhưng không chạy, trong khi công suất trung tâm dữ liệu và thiết bị điện không theo kịp nhu cầu.

Tóm tắt

Aakash Gupta cho rằng Amazon và Microsoft đang tích lũy "GPU tối", tức máy chủ Nvidia đã sở hữu hoặc được giao đến trước khi có cơ sở đủ khả năng cấp điện. Điều này cho thấy điện năng, kết nối lưới điện, tua-bin, máy biến áp, hệ thống làm mát và mạng lưới đang trở thành ràng buộc chính với mở rộng công suất AI, không phải nguồn cung chip.

Phân tích

Chương trình "Early Rack Receipt" mà báo cáo của AWS nhắc đến có ý nghĩa kinh tế: nhận hàng sớm giúp Amazon bật hệ thống ngay khi có điện. Nó cũng cho thấy chip có thể về nhanh hơn khả năng tạo công suất tính toán hữu ích. Vì vậy, trong ngắn hạn, lợi thế hạ tầng AI nghiêng về công ty đã bảo đảm nguồn điện, có sẵn địa điểm trung tâm dữ liệu và chiến lược năng lượng tích hợp theo chiều dọc. Những nhà cung cấp đám mây lớn không đủ công suất thì phải chịu lợi nhuận từ khoản đầu tư phần cứng lớn bị trì hoãn. Nút thắt không chỉ ở phát điện. Sản xuất tua-bin, máy biến áp, hệ thống làm mát và thiết bị mạng đều có thời gian chờ kéo dài nhiều năm, nên chỉ đặt thêm hệ thống Nvidia sẽ không đẩy nhanh triển khai. xAI tự cấp điện tại chỗ bằng một địa điểm phát điện đã mua lại, tua-bin khí tạm thời và hệ thống lưu trữ pin. Điều này cho thấy kiểm soát hạ tầng điện có thể thành yếu tố tạo khác biệt trong huấn luyện mô hình.

Đánh giá tác động

  • Mức độ quan trọng: Cao
  • Danh mục: Xu hướng ngành, Tác động thị trường, Tài trợ/Kinh doanh

Surf chỉ cung cấp thông tin và không cấu thành lời khuyên đầu tư. Tất cả các quyết định đầu tư được thực hiện với rủi ro của riêng bạn. Vui lòng tiến hành nghiên cứu của riêng bạn (DYOR).