Ausgewählte Projekte
RAG über Telekom-Dokumente
Retrieval-augmentierte Antworten über Tausende Service- und Topologie-Dokumente, von lokalen Modellen bedient.
Problem
Betriebswissen — Service-Records, Topologie, Tickets — ist über Systeme und Exporte verstreut. Ingenieure verlieren Zeit mit der Suche nach Kontext, der bereits irgendwo existiert.
Ansatz
Dokumente werden in einen Vektor-Store mit lokalem Embedding-Modell aufgenommen und gechunkt. Ein GPU-bedientes LLM beantwortet Fragen mit Zitaten zur Quelle, und eine kuratierte Wissensschicht hält den Korpus geordnet. Das LLM liegt nie auf dem kritischen Ingest-Pfad, sodass das Retrieval verfügbar bleibt, auch wenn die Generierung ausfällt.
Stack
Ergebnisse
- Antworten in natürlicher Sprache, im echten Dokumentenkorpus verankert
- Zitierte Quellen — jede Antwort ist überprüfbar statt halluziniert
- Suche über einen großen internen Korpus ohne manuelle Indexierung
- Vollständig selbst gehostet — interne Daten verlassen das Netz nicht