LEANN
LEANN ist eine lokal-fokussierte Vektordatenbank und RAG-Laufzeitumgebung, die Einbettungen bei Bedarf neu berechnet. Sie indexiert Millionen persönlicher Dokumente in Gigabyte-Größe, bewahrt Genauigkeit durch Graph-Pruning und unterstützt OpenAI-kompatible oder lokale LLMs für schnelle, private und portable Abfragen.
Überblick
Richten Sie LEANN auf Dokumente oder persönliche Datenquellen aus, wählen Sie HNSW oder DiskANN und konfigurieren Sie ein LLM-Backend. Zur Abfragezeit durchläuft es einen beschnittenen Graphen, berechnet fehlende Einbettungen und bewertet Nachbarn, bevor es den Kontext für Ihr Modell zur Suche und zum Chat bereitstellt – ganz ohne Cloud.
Fähigkeiten und Architektur
LEANN eignet sich für Ingenieure, Forscher und datenschutzbewusste Profis, die schnelle, präzise Abfragen über umfangreiche persönliche oder Team-Wissensbestände benötigen, ohne eine Vektordatenbank zu mieten. Es ist ebenso nützlich für Indie-Entwickler, die Agenten prototypisieren, Unternehmenslabore, die On-Device-RAG validieren, und Teams, die portable, langlebige Wissensdatenbanken über Laptops und Workstations pflegen.
- Indexieren Sie Millionen von Chunks mit HNSW oder DiskANN auf Consumer-Hardware.
- Berechnen Sie Einbettungen bei Bedarf mit einem beschnittenen, hochgradig erhaltenden Graphen neu.
- Durchsuchen Sie persönliche Mails, Chats, Browser-Verlauf, Dokumente und Code sicher offline.
- Nutzen Sie OpenAI-kompatible APIs oder lokale Engines wie Ollama und vLLM.
- Exportieren Sie Indizes, wechseln Sie Geräte und behalten Sie reproduzierbar identische Abfragequalität.
Highlights
Redaktionelle Einschätzung
Installation über uv und pip (uv pip install leann) oder Bau aus dem Quellcode zur Aktivierung von DiskANN. Erstellen Sie einen Index mit LeannBuilder oder nutzen Sie Beispiel-CLIs für Dokumente, Code, E-Mails, Browser-Verlauf, WeChat, iMessage und Chat-Exporte. Konfigurieren Sie OPENAI_API_KEY und optional OPENAI_BASE_URL für kompatible Anbieter oder verwenden Sie lokale Engines wie Ollama oder LM Studio. Unter macOS gewähren Sie Vollzugriff auf Mail und Nachrichten. Passen Sie Backend, Graph-Grad und Suchkomplexität an Ihre Hardware an. LEANN sammelt keine Telemetrie und hält Daten geräteintern.
Lokal-fokussiertes RAG, das Festplattenspeicher gegen Rechenleistung tauscht, ohne Abfragequalität einzubüßen.
Erste Schritte
LEANN kombiniert einen beschnittenen Ähnlichkeitsgraphen mit On-Demand-Einbettungen, um kompakte, portable Indizes und konsistente Abfragen auf persönlichen Geräten zu liefern. Mit flexiblen Backends, OpenAI-Format-Kompatibilität, umfangreichen Beispiel-Pipelines und null Telemetrie ist es eine pragmatische Basis für private, großskalige RAG ohne Verwaltung von Cloud-Vektor-Datenbanken.
Öffne das Tool und prüfe die zentrale Produkterfahrung.
Erstelle ein Konto oder greife auf deinen bestehenden Workspace zu.
Nutze eine eigene Aufgabe, um Geschwindigkeit, Qualität und Passung zu bewerten.
Prüfe ähnliche KI-Tools, bevor du eine endgültige Entscheidung triffst.
LEANN
StarTrail-org und Mitwirkende konzentrieren sich auf effiziente, private Informationsabfrage und lokal-fokussierte KI-Infrastruktur. Das Team fördert graphbasierte Indizierung, selektive Neuberechnung und OpenAI-kompatible Schnittstellen, um qualitativ hochwertiges RAG auf Consumer-Hardware ohne Cloud-Abhängigkeit oder Telemetrie praktikabel zu machen.
LEANN ist eine Open-Source, lokal-fokussierte Vektordatenbank und Retrieval-Laufzeitumgebung, die einen Laptop in ein hochkapazitives RAG-System verwandelt. Anstatt jede Einbettung zu speichern, nutzt LEANN einen beschnittenen Graphen und selektive Neuberechnung, um Einbettungen bei Bedarf zu berechnen, was den Speicherbedarf um etwa 97 % reduziert und gleichzeitig eine starke Abfragequalität beibehält. Im Hintergrund begrenzen hochgradiges Erhaltungs-Pruning und kompakte CSR-Speicherung den Graph-Overhead, während HNSW- oder DiskANN-Backends großskalige Nearest-Neighbor-Suchen übernehmen. LEANN liefert Beispielanwendungen mit, die PDFs, Apple Mail, Chrome-Verlauf, WeChat-Exporte, ChatGPT- und Claude-Archive sowie iMessage indexieren, mit optionaler MCP-Integration, die nahtlos in Claude Code eingebunden werden kann. Es unterstützt OpenAI-kompatible APIs und lokale Engines wie Ollama, LM Studio, vLLM, llama.cpp und SGLang für Generierung und Einbettungen. Ihre Daten bleiben geräteintern ohne Telemetrie, mit portablen Indizes und vorhersehbarer Leistung über unstrukturierte persönliche Korpora.
LEANN besuchen
Kommentare (0)
Keine Kommentare gefunden