LEANN
LEANN은 필요할 때마다 임베딩을 재계산하는 로컬 우선 벡터 데이터베이스이자 RAG 런타임입니다. 수 기가바이트 용량에 수백만 개의 개인 문서를 인덱싱하며, 그래프 가지치기로 정확도를 유지하고 OpenAI 호환 또는 로컬 LLM을 지원해 빠르고 개인적인 휴대용 검색을 제공합니다.
개요
LEANN을 문서나 개인 데이터 소스에 연결하고 HNSW 또는 DiskANN을 선택한 뒤 LLM 백엔드를 구성하세요. 쿼리 시에는 가지치기된 그래프를 탐색하고 누락된 임베딩을 계산하며 이웃을 순위 매긴 후, 클라우드 없이도 모델에 컨텍스트를 전달해 검색과 채팅을 수행합니다.
기능 및 아키텍처
LEANN은 빠르고 정확한 검색이 필요한 엔지니어, 연구자, 개인정보 보호에 민감한 전문가에게 적합하며, 벡터 데이터베이스 임대 없이도 방대한 개인 또는 팀 지식을 다룰 수 있습니다. 인디 개발자가 에이전트를 프로토타입하거나, 기업 연구소가 장치 내 RAG를 검증하거나, 노트북과 워크스테이션 간 휴대 가능하고 견고한 지식 기반을 관리하는 팀 모두에게 유용합니다.
- 일반 소비자용 하드웨어에서 HNSW 또는 DiskANN으로 수백만 개 청크를 인덱싱하세요.
- 가지치기된 고차수 보존 그래프를 사용해 필요할 때 임베딩을 재계산하세요.
- 개인 메일, 채팅, 브라우저 기록, 문서, 코드를 안전하게 오프라인에서 검색하세요.
- OpenAI 호환 API 또는 Ollama, vLLM 같은 로컬 엔진을 사용하세요.
- 인덱스를 내보내고 기기를 옮겨도 동일한 검색 품질을 재현할 수 있습니다.
주요 특징
편집자 의견
uv와 pip로 설치하세요(uv pip install leann). DiskANN 사용을 원하면 소스에서 빌드하세요. LeannBuilder로 인덱스를 생성하거나 문서, 코드, 이메일, 브라우저 기록, WeChat, iMessage, 채팅 내보내기용 예제 CLI를 실행하세요. OPENAI_API_KEY와 선택적으로 OPENAI_BASE_URL을 설정해 호환 공급자를 사용하거나 Ollama, LM Studio 같은 로컬 엔진을 활용하세요. macOS에서는 Mail과 Messages에 전체 디스크 접근 권한을 부여해야 합니다. 하드웨어에 맞게 백엔드, 그래프 차수, 검색 복잡도를 조정하세요. LEANN은 텔레메트리를 수집하지 않으며 데이터를 장치 내에 보관합니다.
검색 품질을 희생하지 않고 디스크 대신 계산을 활용하는 로컬 우선 RAG.
시작하기
LEANN은 가지치기된 유사도 그래프와 필요 시 임베딩 계산을 결합해 컴팩트하고 휴대 가능한 인덱스와 일관된 검색을 개인용 기기에서 제공합니다. 유연한 백엔드, OpenAI 형식 호환성, 풍부한 예제 파이프라인, 텔레메트리 제로로 클라우드 벡터 저장소 관리 없이도 개인용 대규모 RAG의 실용적 기반을 마련합니다.
도구를 열고 핵심 제품 경험을 검토하세요.
계정을 만들거나 기존 워크스페이스에 접속하세요.
자신의 작업으로 속도, 품질, 적합성을 판단하세요.
최종 결정 전에 유사한 AI 도구를 확인하세요.
LEANN
StarTrail-org와 기여자들은 효율적이고 개인 정보 보호에 중점을 둔 정보 검색과 로컬 우선 AI 인프라에 집중합니다. 이 팀은 그래프 기반 인덱싱, 선택적 재계산, OpenAI 호환 인터페이스를 발전시켜 클라우드 의존이나 텔레메트리 없이도 소비자 하드웨어에서 고품질 RAG를 실현합니다.
LEANN은 노트북을 고용량 RAG 시스템으로 바꾸는 오픈소스 로컬 우선 벡터 데이터베이스 및 검색 런타임입니다. 모든 임베딩을 저장하는 대신 가지치기된 그래프와 선택적 재계산을 활용해 필요할 때 임베딩을 계산하며, 저장 공간을 약 97% 절감하면서도 강력한 검색 품질을 유지합니다. 내부적으로는 고차수 보존 가지치기와 컴팩트 CSR 저장 방식으로 그래프 오버헤드를 제한하고, HNSW 또는 DiskANN 백엔드가 대규모 최근접 이웃 검색을 처리합니다. LEANN은 PDF, Apple Mail, Chrome 기록, WeChat 내보내기, ChatGPT 및 Claude 아카이브, iMessage를 인덱싱하는 예제 앱을 제공하며, Claude Code에 통합 가능한 MCP 옵션도 지원합니다. OpenAI 호환 API와 Ollama, LM Studio, vLLM, llama.cpp, SGLang 같은 로컬 엔진을 통한 생성 및 임베딩을 지원합니다. 데이터는 장치 내에 머물며 텔레메트리가 전혀 없고, 휴대 가능한 인덱스와 복잡한 개인 코퍼스에서도 예측 가능한 성능을 보장합니다.
LEANN 방문
댓글 (0)
댓글이 없습니다