LEANN
LEANN là cơ sở dữ liệu vector ưu tiên cục bộ và môi trường chạy RAG tái tính toán embeddings theo yêu cầu. Nó lập chỉ mục hàng triệu tài liệu cá nhân trong gigabyte, duy trì độ chính xác bằng cách cắt tỉa đồ thị và hỗ trợ các LLM tương thích OpenAI hoặc cục bộ để truy xuất nhanh, riêng tư và di động.
Tổng quan
Chỉ định LEANN tới tài liệu hoặc nguồn dữ liệu cá nhân, chọn HNSW hoặc DiskANN, và cấu hình backend LLM. Khi truy vấn, nó duyệt đồ thị đã cắt tỉa, tính toán embedding còn thiếu và xếp hạng các lân cận trước khi chuyển ngữ cảnh cho mô hình của bạn để tìm kiếm và trò chuyện, hoàn toàn không cần đám mây.
Khả năng và kiến trúc
LEANN phù hợp với kỹ sư, nhà nghiên cứu và chuyên gia quan tâm đến quyền riêng tư cần truy xuất nhanh, chính xác trên kiến thức cá nhân hoặc nhóm rộng lớn mà không phải thuê cơ sở dữ liệu vector. Nó cũng hữu ích cho nhà phát triển độc lập thử nghiệm agent, phòng thí nghiệm doanh nghiệp xác thực RAG trên thiết bị, và nhóm quản lý cơ sở kiến thức di động, bền bỉ trên laptop và workstation.
- Lập chỉ mục hàng triệu đoạn với HNSW hoặc DiskANN trên phần cứng tiêu dùng.
- Tái tính toán embedding theo yêu cầu sử dụng đồ thị đã cắt tỉa, bảo toàn bậc cao.
- Tìm kiếm mail cá nhân, trò chuyện, lịch sử trình duyệt, tài liệu và mã nguồn an toàn ngoại tuyến.
- Sử dụng API tương thích OpenAI hoặc engine cục bộ như Ollama và vLLM.
- Xuất chỉ mục, chuyển đổi thiết bị và giữ chất lượng truy xuất đồng nhất một cách tái lập.
Điểm nổi bật
Nhận định của biên tập viên
Cài đặt qua uv và pip (uv pip install leann), hoặc build từ nguồn để kích hoạt DiskANN. Tạo chỉ mục với LeannBuilder, hoặc chạy CLI mẫu cho tài liệu, mã nguồn, email, lịch sử trình duyệt, WeChat, iMessage và xuất trò chuyện. Cấu hình OPENAI_API_KEY và tùy chọn OPENAI_BASE_URL cho nhà cung cấp tương thích, hoặc dùng engine cục bộ như Ollama hoặc LM Studio. Trên macOS, cấp quyền Truy cập Đĩa Toàn Bộ cho Mail và Messages. Điều chỉnh backend, bậc đồ thị và độ phức tạp tìm kiếm phù hợp phần cứng của bạn. LEANN không thu thập dữ liệu và giữ dữ liệu trên thiết bị.
RAG ưu tiên cục bộ đổi dung lượng đĩa lấy tính toán mà không hy sinh chất lượng truy xuất.
Bắt đầu
LEANN kết hợp đồ thị tương đồng đã cắt tỉa với embedding theo yêu cầu để cung cấp chỉ mục gọn nhẹ, di động và truy xuất nhất quán trên máy cá nhân. Với backend linh hoạt, tương thích định dạng OpenAI, pipeline mẫu phong phú và không thu thập dữ liệu, đây là nền tảng thực tế cho RAG riêng tư quy mô lớn mà không cần quản lý kho vector đám mây.
Mở công cụ và xem lại trải nghiệm sản phẩm cốt lõi.
Tạo tài khoản hoặc truy cập không gian làm việc hiện có của bạn.
Dùng tác vụ của chính bạn để đánh giá tốc độ, chất lượng và độ phù hợp.
Xem các công cụ AI tương tự trước khi đưa ra quyết định cuối cùng.
LEANN
StarTrail-org và các cộng tác viên tập trung vào truy xuất thông tin hiệu quả, riêng tư và hạ tầng AI ưu tiên cục bộ. Nhóm phát triển chỉ mục dựa trên đồ thị, tái tính toán chọn lọc và giao diện tương thích OpenAI để làm cho RAG chất lượng cao trở nên thực tế trên phần cứng tiêu dùng mà không phụ thuộc đám mây hay thu thập dữ liệu.
LEANN là cơ sở dữ liệu vector mã nguồn mở, ưu tiên cục bộ và môi trường truy xuất biến laptop thành hệ thống RAG dung lượng cao. Thay vì lưu trữ mọi embedding, LEANN sử dụng đồ thị đã cắt tỉa và tái tính toán chọn lọc để tính toán embedding theo yêu cầu, giảm dung lượng lưu trữ khoảng 97% trong khi vẫn giữ chất lượng truy xuất mạnh mẽ. Ở bên trong, cắt tỉa bảo toàn bậc cao và lưu trữ CSR gọn nhẹ giới hạn chi phí đồ thị, trong khi các backend HNSW hoặc DiskANN xử lý tìm kiếm lân cận quy mô lớn. LEANN cung cấp các ứng dụng mẫu lập chỉ mục PDF, Apple Mail, lịch sử Chrome, xuất WeChat, lưu trữ ChatGPT và Claude, cùng iMessage, với tích hợp MCP tùy chọn cho Claude Code. Nó hỗ trợ API tương thích OpenAI và các engine cục bộ như Ollama, LM Studio, vLLM, llama.cpp và SGLang cho tạo và embedding. Dữ liệu của bạn luôn nằm trên thiết bị với không thu thập dữ liệu, chỉ mục di động và hiệu suất ổn định trên các kho dữ liệu cá nhân phức tạp.
Truy cập LEANN
Bình luận (0)
Chưa có bình luận nào