Tenstorrent
Tenstorrent cung cấp nền tảng tính toán AI mở và chủ quyền: thẻ tăng tốc Blackhole, máy trạm làm mát bằng chất lỏng êm ái, máy chủ TT-QuietBox mở rộng quy mô, IP Galaxy có thể cấp phép, và TT-Forge, trình biên dịch dựa trên MLIR cho PyTorch, JAX và ONNX—được xây dựng để chạy các mô hình lớn hiệu quả từ bàn làm việc đến trung tâm dữ liệu.
Tổng quan
Xây dựng trong các framework quen thuộc, biên dịch với TT-Forge và triển khai lên các bộ tăng tốc Blackhole trong máy trạm hoặc máy chủ TT-QuietBox. Chọn làm mát thụ động, chủ động hoặc bằng chất lỏng để phù hợp với giới hạn, và giữ khối lượng công việc tại chỗ trong khi duy trì chuỗi công cụ mở và di động xuyên suốt phát triển và sản xuất.
Phần cứng, IP và Ngăn xếp Trình Biên dịch
Tenstorrent phù hợp với kỹ sư ML, nhà nghiên cứu và nhóm MLOps cần hiệu suất xác định, chủ quyền tại chỗ và con đường rõ ràng từ nguyên mẫu đến quy mô giá sản xuất. Nó cũng phù hợp với OEM và nhóm silicon cấp phép IP Galaxy để chuyên biệt hóa cho các khối lượng công việc AI cụ thể. Các phòng thí nghiệm, startup và doanh nghiệp đánh giá cao công cụ mở, kernel có thể kiểm tra và cộng đồng nhà phát triển phản hồi nhanh sẽ trân trọng tốc độ cải tiến từ TT-Forge và phạm vi triển khai thực tế của thẻ Blackhole, máy trạm bàn làm việc và máy chủ TT-QuietBox.
- Biên dịch mô hình PyTorch, JAX và ONNX với TT-Forge thành các kernel phần cứng tối ưu.
- Chạy các mô hình lên đến 120 tỷ tham số trên máy trạm làm mát bằng chất lỏng êm ái.
- Mở rộng cùng kiến trúc này vào máy chủ TT-QuietBox để triển khai AI chủ quyền và sản xuất.
- Cấp phép IP Galaxy để tùy chỉnh bộ tăng tốc cho các khối lượng công việc cụ thể mà không bị khóa nhà cung cấp.
- Chọn làm mát thụ động, chủ động hoặc bằng chất lỏng để cân bằng nhiệt độ, âm thanh và mật độ.
Tại sao kỹ sư chọn Tenstorrent
Góc nhìn biên tập
Bắt đầu bằng cách cài đặt TT-Forge (beta công khai) và xem xét tài liệu cùng ví dụ trong trung tâm nhà phát triển. Mang mô hình PyTorch, JAX hoặc ONNX, biên dịch với TT-Forge và xác thực trên máy trạm chạy Blackhole trước khi triển khai lên máy chủ TT-QuietBox. Tham gia cộng đồng Discord để được hỗ trợ, gửi lỗi hoặc PR trên GitHub, và theo dõi các nhiệm vụ thưởng để tăng tốc cải tiến kernel. Khi sẵn sàng, chọn các tùy chọn làm mát và khung máy phù hợp với môi trường của bạn, sau đó vận hành các bản dựng sử dụng các pipeline MLOps hiện có. Các bản demo TT-Deploy trình bày các phương pháp đóng gói, lập lịch và mở rộng khối lượng công việc Tenstorrent.
AI vẫn tuân theo các quy luật cũ của tính toán; Tenstorrent kết hợp silicon, phần mềm và hệ thống để mang lại hiệu suất thực tế, chủ quyền.
Bắt đầu
Lợi thế của Tenstorrent là sự nhất quán: chuỗi công cụ phần mềm đồng nhất, nhiệt độ linh hoạt và các tùy chọn từ IP có thể cấp phép đến hệ thống trọn gói. Các nhóm có thể thử nghiệm yên tĩnh trên bàn làm việc, giữ chủ quyền bằng cách ở tại chỗ và mở rộng mà không cần thay đổi công cụ. Với TT-Forge mã nguồn mở và cộng đồng nhà phát triển phản hồi nhanh, việc điều chỉnh hiệu suất luôn minh bạch và lặp đi lặp lại.
Mở công cụ và xem lại trải nghiệm sản phẩm cốt lõi.
Tạo tài khoản hoặc truy cập không gian làm việc hiện có của bạn.
Dùng tác vụ của chính bạn để đánh giá tốc độ, chất lượng và độ phù hợp.
Xem các công cụ AI tương tự trước khi đưa ra quyết định cuối cùng.
Tenstorrent
Tenstorrent thiết kế bộ tăng tốc AI, hệ thống và IP bộ xử lý có thể cấp phép với triết lý mở, ưu tiên nhà phát triển. Đội ngũ của họ xây dựng kiến trúc minh bạch và phần mềm mã nguồn mở, cho phép nhà phát triển chỉnh sửa, lựa chọn, phân nhánh và sở hữu tương lai silicon của họ trong khi triển khai AI hiệu suất cao, chủ quyền từ bàn làm việc đến trung tâm dữ liệu.
Tenstorrent là nền tảng tính toán AI đầu cuối bao gồm IP silicon, thẻ tăng tốc, máy trạm yên tĩnh và máy chủ mở rộng quy mô. Phần cứng Blackhole hỗ trợ thực thi mô hình cục bộ, trong khi hệ thống TT-QuietBox cho phép triển khai chủ quyền tại chỗ. Các nhà phát triển nhắm mục tiêu vào ngăn xếp sử dụng TT-Forge, trình biên dịch mã nguồn mở dựa trên MLIR, xử lý đồ thị PyTorch, JAX và ONNX để tạo ra các kernel hiệu suất cao. Đối với OEM và các nhà cung cấp dịch vụ lớn, IP Galaxy cung cấp thiết kế bộ xử lý có thể cấp phép, linh hoạt để tùy chỉnh các khối lượng công việc cụ thể mà không bị khóa nhà cung cấp. Các giải pháp kỹ thuật thực tế—làm mát thụ động, chủ động và bằng chất lỏng—giúp các nhóm điều chỉnh nhiệt độ và âm thanh phù hợp. Trung tâm nhà phát triển, tài liệu công khai, kho GitHub, Discord và chương trình thưởng có trả phí giúp thu hẹp vòng phản hồi từ kernel đến silicon. Kết quả là một con đường minh bạch, ưu tiên nhà phát triển để chạy các mô hình lên đến 120 tỷ tham số trên hệ thống bàn làm việc và mở rộng cùng ngăn xếp vào các giá sản xuất.
tenstorrent.com/en
Bình luận (0)
Chưa có bình luận nào