Armada kết hợp các trung tâm dữ liệu mô-đun chắc chắn, kết nối vệ tinh, điều phối GPU và quản lý đội tàu tập trung để chạy AI ở nơi mà hạ tầng đám mây truyền thống không thể tiếp cận một cách đáng tin cậy.
Hầu hết các nền tảng AI doanh nghiệp giả định rằng dữ liệu có thể được truyền liên tục đến một vùng đám mây lớn. Giả định đó trở nên không đáng tin cậy ở các mỏ khai thác, cơ sở ngoài khơi, các khu sản xuất biệt lập, các triển khai ứng phó khẩn cấp và các địa điểm khác nơi băng thông bị hạn chế, kết nối không liên tục hoặc dữ liệu vận hành không thể rời khỏi hiện trường.
Armada tiếp cận vấn đề này bằng cách đưa hạ tầng tính toán có thể sử dụng gần hơn với nơi dữ liệu được tạo ra. Dòng sản phẩm Galleon của họ đóng gói tính toán, lưu trữ, mạng, quản lý điện năng và làm mát vào các hệ thống mô-đun chắc chắn có thể chạy các khối lượng công việc AI tại chỗ thay vì phải chờ xây dựng một trung tâm dữ liệu truyền thống.
Sản phẩm quan trọng vì vậy không phải là một container hay máy chủ đơn lẻ. Đó là nền tảng Armada Edge tổng hợp: tính toán vật lý qua Galleon, khả năng quan sát đội tàu qua Atlas, quản lý GPU qua Bridge và triển khai ứng dụng qua Marketplace. Cách tiếp cận toàn bộ ngăn xếp này làm cho Armada có liên quan đến sự chuyển dịch rộng hơn từ AI chỉ dựa trên đám mây sang hạ tầng phân tán và có chủ quyền.
Tại sao AI biên cần nhiều hơn một máy chủ đám mây nhỏ hơn
AI biên có giá trị khi các quyết định phải được đưa ra gần máy móc, cảm biến, camera, phương tiện hoặc công nhân. Xử lý tại chỗ có thể giảm độ trễ, tiếp tục hoạt động khi mạng bị gián đoạn và tránh việc chuyển tải lượng lớn video thô hoặc dữ liệu cảm biến công nghiệp lên đám mây.
Tuy nhiên, đặt một GPU tại một địa điểm xa không tạo ra một nền tảng biên sẵn sàng sản xuất. Các tổ chức còn cần làm mát, lưu trữ, mạng bền bỉ, giám sát, phân phối ứng dụng, bảo mật và quản trị từ xa. Đề xuất trung tâm của Armada là đóng gói các yêu cầu này thành hạ tầng có thể triển khai thay vì bắt mỗi khách hàng phải tự lắp ráp môi trường biên riêng.
Galleon biến hạ tầng mô-đun thành một địa điểm AI có thể triển khai
Galleon là dòng hệ thống tính toán biên di động và đóng container được thiết kế cho môi trường khắc nghiệt. Các cấu hình có thể bao gồm CPU, GPU, lưu trữ, mạng, sưởi và làm mát, cho phép triển khai mở rộng từ các lắp đặt nhỏ gọn đến công suất tính toán lớn hơn đáng kể.
Đối với khối lượng công việc AI, lợi thế thực tế là xử lý tại chỗ. Các mô hình thị giác máy tính có thể kiểm tra thiết bị, các chuỗi cảm biến có thể phát hiện bất thường và hệ thống vận hành có thể tạo cảnh báo mà không cần tải liên tục dữ liệu thô lên. Chỉ những kết quả quan trọng, siêu dữ liệu hoặc bản ghi được chọn mới cần chuyển về hệ thống trung tâm.
Atlas quản lý kết nối và tài sản phân tán
Atlas cung cấp lớp quản lý cho các tài sản kết nối, các triển khai Galleon và vận hành mạng từ xa. Nó mang lại sức khỏe đội tàu, sử dụng, cảnh báo, quyền hạn và hiệu suất lịch sử vào một giao diện vận hành tập trung thay vì yêu cầu các nhóm phải giám sát từng lắp đặt từ xa riêng biệt.
Kết nối đặc biệt quan trọng ở biên. Atlas có thể kết hợp Starlink, 5G, LTE và các đường mạng khác bằng cách điều hướng lưu lượng, kiểm soát chất lượng dịch vụ, ghép kênh và tổng hợp liên kết. Điều này không loại bỏ sự cố mạng, nhưng cung cấp cho các tổ chức nhiều lựa chọn hơn để giữ các ứng dụng quan trọng luôn kết nối khi một liên kết không khả dụng.
Bridge và Marketplace hoàn thiện lớp phần mềm
Bridge là lớp quản lý và điều phối GPU của Armada. Nó nhằm biến hạ tầng GPU phân tán thành một đám mây AI được quản lý, cung cấp cho các tổ chức cách chung để lập lịch công suất và vận hành tài nguyên tính toán có thể phân bố trên nhiều địa điểm khác nhau.
Marketplace cung cấp kênh triển khai cho các ứng dụng AI, phần mềm công nghiệp, phần cứng kết nối và sản phẩm đối tác. Điều này có ý nghĩa chiến lược vì hạ tầng biên chỉ tạo ra giá trị khi các nhóm có thể cài đặt, cập nhật, giám sát và bảo mật các ứng dụng chạy trên đó một cách đáng tin cậy. Nền tảng tổng hợp giảm khoảng cách giữa việc mua thiết bị vật lý và vận hành quy trình AI biên có thể lặp lại.
Ai nên cân nhắc Armada và nên thử nghiệm gì trước tiên
Armada phù hợp nhất với các nhà khai thác mỏ, năng lượng, sản xuất, viễn thông, quốc phòng, an toàn công cộng và hạ tầng có các địa điểm từ xa hoặc bị hạn chế băng thông. Nó cũng có thể phù hợp với các tổ chức cần xử lý dữ liệu tại chỗ, vận hành cách ly mạng hoặc kiểm soát chặt chẽ hơn nơi lưu trữ khối lượng công việc AI và dữ liệu vận hành.
Khách hàng tiềm năng nên thử nghiệm hiệu suất khối lượng công việc, độ bền môi trường, khả năng cung cấp điện, hành vi chuyển đổi dự phòng, tương thích ứng dụng, phục hồi từ xa và tổng chi phí vận hành. Hạ tầng mô-đun có thể giảm thời gian triển khai, nhưng không loại bỏ nhu cầu lập kế hoạch bảo trì, an ninh mạng, bảo vệ vật lý và nhân sự có khả năng vận hành hệ thống phân tán.