Wissenssystem aus eigenen Unterlagen

Ausgangslage

Zwei Probleme, übereinandergelegt. Das erste war das Wissen. Der Betrieb arbeitete mit drei Bestandssystemen und zwei Ablagen, gemeinsam abfragen ließ sich davon nichts. Wer die Wartungshistorie einer Anlage oder die richtige Ersatzteilnummer brauchte, fragte den Kollegen, der es zufällig wusste. Ein Monteur beim Kunden rief dafür im Innendienst an.

Das zweite Problem war der Umgang mit KI selbst. In der Verwaltung fehlte die Grundlage, generationsübergreifend, von der Berührungsangst bis zu der Frage, welche Daten überhaupt in ein öffentliches Werkzeug dürfen. Einen eigenen, gesicherten Zugang zu den Unterlagen gab es nicht. Die Alternative wäre gewesen, Preislisten und Kundendaten in öffentliche Chat-Werkzeuge zu tippen.

Gesucht werden musste an fünf Stellen.

Die Skizze daneben zeigt die Lage: vier Ablagen, die nichts voneinander wissen, und eine Frage, die in allen vieren stehen könnte.

Wo das Firmenwissen lag

• Dokumentenmanagement
• CRM
• ERP
• OneDrive
• SharePoint

Was wir gebaut haben

Zuerst die Schulung, am 10. September 2025, anderthalb bis zwei Stunden für die Verwaltung, in drei Blöcken: Grundlagen und Abgrenzung zur klassischen IT, dann Erwartungen, Grenzen und Datenschutz, dann Praxis. Wie wir das aufbauen, steht unter Schulung und Befähigung.

Die Praxisübung war der eigene Fall Preisauskunft. Die Teilnehmer bauten sich selbst einen Assistenten, der nur Fragen zu Artikelpreisen aus der Preisliste des Hauses beantwortet, kurz antwortet, auf die Stelle in der Datei verweist und alles andere höflich ablehnt. Die Grenze wurde mit einer themenfremden Frage nach dem Wetter geprüft. Gearbeitet wurde dabei bewusst mit öffentlichen Werkzeugen, am Beispiel, nicht am späteren System.

Am 15. September 2025 folgte der Termin zur Plattform, am 30. September die Betriebsfragen. Dort fiel die Entscheidung, die Anmeldung über Microsoft Entra ID zu führen statt eine eigene Benutzerverwaltung aufzubauen. Die Hardware steht im Testnetz des Unternehmens auf VMware, der Zugang für uns läuft über SSL-VPN und SSH.

Gebaut wurde dann ein Docker-Compose-Verbund auf einem Linux-Server im Netz des Unternehmens. Die Anmeldung läuft per OAuth und OIDC gegen den bestehenden Entra-ID-Tenant, die Plattform hat eine eigene Subdomain des Unternehmens. Aktualisierungen laufen über docker compose pull.

Die Skizze daneben stellt beide Fälle gegenüber: Die Frage nach dem Artikelpreis geht durch die eine Öffnung, die Frage nach dem Wetter kommt davor zurück.

Die Teile des Verbunds

• Open WebUI als Oberfläche
• Qdrant als Vektordatenbank im Multitenancy-Modus
• docling-serve für die Dokumentaufbereitung, mit zwei lokalen Workern
• SearXNG als eigener Suchdienst für die Websuche
• Microsoft Entra ID für die Anmeldung, per OAuth und OIDC

Was heute läuft

In Betrieb seit Dezember 2025. Die Plattform läuft auf einem Linux-Server im Netz des Unternehmens, die Anmeldung über den bestehenden Entra-ID-Tenant. Am 15. Dezember 2025 wurde die Standard-Benutzerrolle im laufenden System umgestellt, ein Eingriff im Betrieb, kein Aufbau. Aufbereitet und eingelesen ist die Preisliste 2026, die Dokumentstrecke ist damit an echtem Material erprobt.

Die Skizze daneben zeigt, worauf die Dokumentstrecke hinausläuft: Die Antwort steht im Fenster, und der Verweis führt zurück auf die Zeile der Preisliste, aus der sie stammt.

Das beweist

Ein mittelständischer Betrieb kann eine eigene KI-Plattform im eigenen Netz betreiben, mit der Anmeldung, die er ohnehin schon hat. Und der Weg dorthin beginnt bei den Leuten, nicht bei der Hardware. Wie ein System aus eigenen Unterlagen antwortet und dabei die Fundstelle mitliefert, erklären wir unter RAG-Systeme erklärt.

Die Treppe daneben zeigt die Reihenfolge: Auf der ersten Stufe stehen die Leute, auf der zweiten liegt die Übung am eigenen Fall, und erst auf der letzten steht der Server.

Zum Wissenssystem →