Liquid AI
Liquid AI xây dựng các mô hình nền tảng gốc thiết bị (LFM) chạy trực tiếp trên điện thoại, laptop, xe cộ và hệ thống nhúng. Một dòng mô hình nhỏ gọn, có thể xuất sang llama.cpp, MLX, ONNX và CoreML, cho phép suy luận và tìm kiếm riêng tư, độ trễ thấp với hơn 3200 biến thể và triển khai công nghiệp.
Tổng quan
Chọn biến thể LFM phù hợp với phần cứng mục tiêu, tinh chỉnh với LEAP trên dữ liệu chuyên ngành, lượng tử hóa, rồi xuất một sản phẩm duy nhất cho mỗi runtime. Triển khai trên laptop, điện thoại hoặc xe cộ với suy luận riêng tư, trên thiết bị và giám sát qua hệ thống ứng dụng hiện có của bạn.
Tổng quan nền tảng
Được xây dựng cho kỹ sư triển khai AI vào sản phẩm ngoài trung tâm dữ liệu: nhà phát triển ứng dụng di động, nhóm phần mềm ô tô, kỹ sư nhúng và robot, cùng chuyên gia ML trong thương mại điện tử, tài chính, y tế, công nghiệp và quốc phòng. Các nhà nghiên cứu khám phá mạng thần kinh lỏng, mô hình không gian trạng thái và nâng cấp tokenizer có thể nhanh chóng tạo mẫu, sau đó xác thực bằng Pipette benchmarking. Các tổ chức trong môi trường quy định sử dụng LFM để giữ nội dung nhạy cảm tại chỗ trong khi đáp ứng độ phản hồi tương tác mà người dùng kỳ vọng trên phần cứng tiêu dùng.
- Tinh chỉnh LFM với LEAP, sau đó xuất sang MLX, ONNX hoặc CoreML.
- Triển khai các mô hình dưới 1GB trên laptop, điện thoại và xe cộ để suy luận riêng tư.
- Sử dụng LFM2.5-VL cho hiểu biết đa phương thức, kết hợp văn bản với hình ảnh trên thiết bị.
- Tăng tốc suy luận với DSpark và chưng cất nhận thức lượng tử cho triển khai biên.
- Chạy bộ truy xuất và bộ mã hóa ngữ cảnh dài hiệu quả, ngay cả trên hệ thống chỉ CPU.
Điểm nổi bật
Dành cho ai
Bắt đầu bằng cách khám phá danh mục Liquid Foundation Models và Model Playground để đánh giá các ứng viên. Cài đặt LEAP SDK, tải LFM cơ sở và tinh chỉnh trên bộ dữ liệu được tuyển chọn. Sử dụng các công thức có sẵn cho chưng cất nhận thức lượng tử, mở rộng tokenizer và căn chỉnh truy xuất. Tạo sản phẩm runtime và xuất sang llama.cpp, MLX, ONNX hoặc CoreML cho phần cứng mục tiêu; SGLang và vLLM phục vụ nhu cầu máy chủ hoặc kết hợp. Xác thực bằng Pipette, rồi triển khai sản xuất trên laptop, điện thoại hoặc xe cộ. Tài liệu và dự án mẫu giúp rút ngắn thời gian triển khai trên Apple Silicon và các điểm cuối chỉ CPU.
Mang mô hình tiên tiến đến bộ xử lý cục bộ—không cần trung tâm dữ liệu.
Bắt đầu
Liquid AI khác biệt nhờ sự đa dạng của các LFM đã phát hành, hiệu năng trên thiết bị dưới 1GB và con đường thực tế từ nghiên cứu đến triển khai. Sự kết hợp giữa LEAP, runtime có thể xuất và các đối tác sản xuất thể hiện sự trưởng thành. Nếu bạn cần trí tuệ riêng tư, độ trễ thấp trên phần cứng biên đa dạng, với lựa chọn từ bộ mã hóa đến MoE đa phương thức, Liquid AI là lựa chọn chuyên biệt.
Mở công cụ và xem lại trải nghiệm sản phẩm cốt lõi.
Tạo tài khoản hoặc truy cập không gian làm việc hiện có của bạn.
Dùng tác vụ của chính bạn để đánh giá tốc độ, chất lượng và độ phù hợp.
Xem các công cụ AI tương tự trước khi đưa ra quyết định cuối cùng.
Liquid AI
Liquid AI là công ty nghiên cứu thành lập năm 2023 nhằm cung cấp trí tuệ tổng quát hiệu quả trên phần cứng biên. Đội ngũ phát hành Liquid Foundation Models, LEAP SDK và nghiên cứu mở thúc đẩy lượng tử hóa, chưng cất và đầu ra có cấu trúc cho triển khai thực tế trong nhiều ngành công nghiệp.
Liquid AI cung cấp một dòng các mô hình nền tảng gốc thiết bị (LFM) được thiết kế cho phần cứng biên, nơi độ trễ, quyền riêng tư và giới hạn năng lượng là yếu tố quan trọng. Các mô hình trải dài từ bộ mã hóa nhỏ gọn và mô hình ngôn ngữ đa dụng đến LFM2.5-VL đa phương thức, cùng các biến thể hỗn hợp chuyên gia, nhiều mô hình nhỏ gọn đủ để chạy dưới 1GB. Bộ công cụ tập trung vào LEAP SDK để tinh chỉnh trên dữ liệu của bạn, sau đó xuất các sản phẩm đã hoàn thiện sang các runtime biên phổ biến như llama.cpp, MLX, ONNX, CoreML, SGLang và vLLM. Các triển khai sản xuất đã bao phủ điện thoại, laptop, xe cộ, bán lẻ và môi trường công nghiệp. Các nghiên cứu gần đây bao gồm cải tiến hiệu năng DSpark và chưng cất nhận thức lượng tử Q4_0 cho suy luận hiệu quả, cùng bộ truy xuất và bộ mã hóa tối ưu cho ngữ cảnh dài trên CPU. Với 56 LFM đã phát hành, 41,7 triệu lượt tải và hơn 3200 biến thể, Liquid AI tập trung mang trí tuệ cấp tiên phong đến phần cứng thực tế. Các đối tác hàng đầu trong ngành ô tô và chip nhấn mạnh sự sẵn sàng cho sản xuất.
Truy cập Liquid AI
Bình luận (0)
Chưa có bình luận nào