Nền tảng AI Factory DSX của NVIDIA nhìn nhận lại hiệu quả trung tâm dữ liệu: thay vì chỉ cải thiện từng chút ở cấp độ rack, nền tảng này đồng thiết kế toàn hệ thống gồm tính toán, điện năng và làm mát. Tuyên bố nổi bật—DSX MaxLPS có thể tạo ra cùng số lượng token với lượng điện năng ít hơn tới 30%—dựa trên cơ chế phân bổ điện năng động giữa các rack và những kiến trúc tham chiếu đã được kiểm chứng, kết hợp hệ thống tính toán làm mát bằng chất lỏng với bộ làm mát khô ngoài trời để hạn chế bay hơi. Cách tiếp cận này nhắm tới hai giới hạn lớn đối với AI quy mô lớn ở châu Âu và các khu vực khác bị hạn chế về lưới điện và nguồn nước: một địa điểm có thể đấu nối được bao nhiêu megawatt, và nguồn nước tại địa phương có đủ đáp ứng nhu cầu làm mát bằng bay hơi truyền thống hay không.
Câu chuyện DSX mang tính thực tiễn, không chỉ là quảng bá. Các đối tác đang triển khai thử nghiệm chứng minh khái niệm và những đợt thử nghiệm ban đầu ghi nhận lợi ích cụ thể về công suất trong giới hạn điện năng cố định. Thử nghiệm cụm HGX B200 của Lambda với MaxLPS cho thấy thông lượng token toàn cụm tăng khoảng 24% và năng lực GPU tăng 19% trong cùng ngân sách điện năng; đánh giá của Nscale tại Iceland ghi nhận thông lượng suy luận cao hơn 49% và năng lực GPU được quản lý tăng 37% trong cùng hạn mức 264 kW. Đây là những tín hiệu thực tế cho thấy việc phân bổ điện năng động kết hợp với hệ thống làm mát có tính đến toàn hệ thống có thể tạo thêm dư địa mà không cần thay đổi toàn bộ chip.
Với các đơn vị vận hành và nhà quy hoạch, chỉ số quan trọng đang thay đổi: đó là token trên mỗi megawatt, chứ không chỉ là FLOPS của GPU hay điểm chuẩn trên từng card. Khi giới hạn đấu nối lưới điện và nguồn nước tại địa phương khống chế số rack có thể lắp đặt, đòn bẩy duy nhất còn lại là khai thác thêm năng lực suy luận và huấn luyện AI hữu ích từ mỗi megawatt được cấp. Các cấu hình điện năng do phần mềm quản lý của DSX, kết hợp với những cấu hình hạ tầng đã được kiểm chứng và công cụ mô phỏng bản sao số, mở ra một hướng tối ưu hóa mới—phối hợp lịch chạy tác vụ, giới hạn điện năng của rack và hệ thống cơ sở để tối đa hóa lượng token trong điều kiện giới hạn tại địa phương.


