Open WebUI als ChatGPT-Alternative: was es kann und was es kostet
Open WebUI ist eine Oberfläche für Sprachmodelle, die auf Ihren eigenen Servern läuft und sich für die Nutzer anfühlt wie ein gewohntes Chatfenster. Als selbst gehostete Alternative zu ChatGPT nimmt sie Ihnen die Modellwahl nicht ab, und Betrieb kostet sie auch. Dieser Text sagt, was sie kann, was sie nicht kann und was dahintersteckt.
- Was es ist
- Selbst betriebene Weboberfläche für Sprachmodelle, quelloffen
- Lizenzkosten
- Freie Fassung kostenlos, daneben eine kostenpflichtige Unternehmenslizenz
- Einrichtung bei uns
- Individuelle Entwicklung: Pilot 4.900 €, Vollsystem ab 12.900 €, zzgl. MwSt.
- Bis produktiv
- Zwei bis vier Wochen bei einem Standardaufbau
- Laufend
- Server, Modellnutzung, Wartung
- Belegter Einsatz
- Armaturenhersteller im Mittelstand, in Betrieb seit Dezember 2025
Was Open WebUI ist
Open WebUI ist eine Weboberfläche für Sprachmodelle, die Sie auf einem eigenen Server betreiben. Sie sieht aus wie ein Chatfenster und verhält sich auch so. Der Unterschied zu ChatGPT liegt darunter: Betreiber sind Sie, das Modell wählen Sie, und die Verläufe liegen in Ihrer Datenbank.
Der Name führt in die Irre, wenn man ihn für ein fertiges Produkt hält. Open WebUI ist kein Sprachmodell und kein Wissenssystem. Es ist die Bedienoberfläche und die Verwaltung darum herum: Benutzer, Rollen, Verläufe, hochgeladene Dateien, angebundene Modelle.
Der Quellcode liegt offen, die freie Fassung kostet nichts. Bezahlt wird alles andere: Server, Modellnutzung, Einrichtung, Betrieb. Was das im Einzelnen bedeutet, steht weiter unten in Zahlen.
Links in der Skizze steht, wofür viele Open WebUI halten, rechts, was tatsächlich auf dem Server landet: eine Oberfläche mit Benutzern, Rollen und Verläufen, an die Modelle angebunden werden.
Die Zeichnung zeigt, wie sich das verteilt: vorn das Fenster, das die Nutzer bedienen, dahinter das Modell, die Datenbank und die Ablage, die jemand aufsetzen und füllen muss.
„Die Zusammenarbeit mit dem Team von Deep5 war eine äußerst bereichernde Erfahrung, die weit über oberflächliche Erwartungen hinausging.“
Was die Oberfläche mitbringt
Der Funktionsumfang ist der Grund, warum das Projekt so verbreitet ist. Vieles, was man sonst selbst bauen müsste, ist bereits da und wird laufend weiterentwickelt.
Für die Nutzer ist der Einstieg kurz, weil die Bedienung dem entspricht, was viele privat schon kennen. Das ersetzt keine Einführung. Wer nie gelernt hat, welche Fragen ein Sprachmodell zuverlässig beantwortet und welche nicht, bekommt auch in einer vertrauten Oberfläche unbrauchbare Antworten.
Der Trichter daneben zeigt, was in dieser einen Oberfläche zusammenläuft: hochgeladene Dokumente, mehrere Modelle nebeneinander und die Anmeldung aus dem Verzeichnis, das im Unternehmen schon steht.
Was mitgeliefert wird
- Chat mit Verlauf, Markdown, Formelsatz und Hervorhebung für Quelltext
- Upload von Texten, Bildern und Dokumenten, auch dauerhaft als Sammlung
- Antworten auf Basis eigener Dokumente, mit Verweis auf die Fundstelle. Wie das darunter arbeitet, steht in Was ein RAG-System ist
- Benutzerverwaltung mit Rollen, Gruppen und Arbeitsbereichen für Teams
- Anmeldung über vorhandene Verzeichnisse per OAuth, OIDC oder LDAP
- Eigene Assistenten mit festem Auftrag, etwa eine Auskunft, die nur die Preisliste beantwortet
- Mehrere Modelle nebeneinander, lokal oder über eine Programmierschnittstelle
- Protokolle darüber, wer wann was abgefragt hat
Was Open WebUI nicht kann
Die Software ist eine Oberfläche mit Anschlüssen. Alles, was hinter den Anschlüssen liegt, ist Arbeit, die jemand machen muss.
Fünf Punkte lassen Projekte regelmäßig länger dauern als geplant. Keiner davon ist ein Mangel der Software, alle fünf sind Aufwand, der irgendwo im Plan stehen muss.
| Aufgabe | Was die Software tut | Was zusätzlich zu tun ist |
|---|---|---|
| Dokumente lesen | Nimmt auf, was ihr aufbereitet vorliegt | Eine eigene Aufbereitungsstrecke für PDF mit Spalten, gescannte Zeichnungen und Tabellen in Bildform |
| Rechte je Dokument | Übernimmt Anmeldung und Gruppen aus dem vorhandenen Verzeichnis | Die Entscheidung, wer welche Datei sehen darf, und ihre Abbildung im Bestand |
| Quellen prüfen | Verweist auf die Datei, aus der sie zitiert | Die Zahlen selbst prüfen. Steht die falsche in der Datei, steht sie in der Antwort |
| Fachsysteme anbinden | Bringt Anschlüsse für Schnittstellen, SQL und einen MCP-Server mit | ERP, CRM und Dokumentenmanagement einzeln anbinden |
| Betrieb | Läuft als Anwendung im Netz | Aktualisierungen, Sicherungen, Zertifikate und Überwachung |
Selbst betrieben heißt nicht automatisch alles im Unternehmen
Der Satz „Ihre Daten verlassen das Unternehmen nicht“ gilt für die Oberfläche. Für das Modell gilt er nur dann, wenn das Modell ebenfalls bei Ihnen läuft. Diese Unterscheidung fällt in Werbetexten gern weg, sie entscheidet aber über den Datenschutz.
Es gibt drei Wege, und Open WebUI lässt alle drei zu, auch nebeneinander. Was der zweite und der dritte für Sie bedeuten, klärt kein Häkchen in der Software, sondern der Vertrag mit dem Anbieter und die Frage, welche Daten überhaupt hinein dürfen.
In der Praxis mischen wir: das offene Modell für alles, was Personendaten oder Preise berührt, das kommerzielle für Textarbeit ohne heiklen Inhalt. Open WebUI kann diese Trennung pro Modell und pro Assistent abbilden.
Die Zeichnung legt beide Wege nebeneinander: die eine Anfrage bleibt beim eigenen Modell im Unternehmen, die andere geht durch dieselbe Wand hinaus zum Anbieter.
| Der Weg | Wo die Anfrage landet | Was er verlangt |
|---|---|---|
| Offenes Modell auf eigener Hardware | Im Unternehmen, jede einzelne | Grafikkarten. Die verfügbaren Modelle sind schwächer als die großen kommerziellen |
| Schnittstelle eines Anbieters | Beim Anbieter, samt Inhalt der Anfrage | Einen Vertrag und die Festlegung, welche Inhalte hinausgehen dürfen |
| Schnittstelle im europäischen Rechtsraum | Beim Anbieter, verarbeitet in Europa | Denselben Vertrag, geprüft am Ort der Verarbeitung |
Selbst betrieben heißt nicht automatisch alles im Unternehmen. Hängt ein öffentliches Modell dahinter, geht die Anfrage trotzdem hinaus.
Wie ein Aufbau in der Praxis aussieht
Ein Beispiel aus unserer Arbeit, anonymisiert. Ein Armaturenhersteller im Mittelstand wollte seine Unterlagen per KI abfragen, ohne Preislisten und Kundendaten in öffentliche Werkzeuge zu tippen. Drei Bestandssysteme, dazu Ablagen auf OneDrive und SharePoint, gemeinsam abfragen ließ sich nichts davon.
Angefangen haben wir nicht mit Hardware, sondern mit den Leuten. Am 10. September 2025 lief eine Schulung für die Verwaltung, anderthalb bis zwei Stunden, geübt am eigenen Fall Preisauskunft. Die Teilnehmer bauten selbst einen Assistenten, der nur Fragen zu Artikelpreisen beantwortet, auf die Stelle in der Datei verweist und alles andere ablehnt.
Gebaut wurde danach eine Plattform im Netz des Unternehmens, mit eigener Subdomain und Anmeldung über den Verzeichnisdienst, den es dort schon gab. Woraus dieser Aufbau besteht, steht am Ende dieses Textes.
In Betrieb ist das System seit Dezember 2025. Die Anbindung von Dokumentenmanagement, CRM und ERP steht als nächster Ausbauschritt an, ebenso ein Rechtemodell auf Dokumentebene. Der ganze Vorgang steht im Bericht dazu, mit Daten und offenen Punkten.
Wie ein Aufbau abläuft
Wir richten Open WebUI in vier Schritten ein. Die Dauern gelten für einen Aufbau ohne Sonderfälle, und ein solcher Aufbau ist damit in zwei bis vier Wochen produktiv.
Die Kette daneben zeigt, wo die Zeit liegt: der dritte Schritt dauert mit fünf bis zehn Tagen am längsten und ist der einzige, in dem etwas entsteht, das es so nur bei Ihnen gibt.
Auf der Zeitachse sehen Sie, wo die Zeit liegt: der dritte Schritt ist fast so lang wie die drei anderen zusammen und der einzige, in dem etwas entsteht, das es so nur bei Ihnen gibt.
Vier Schritte
- Bedarf und Konzept, ein bis zwei Tage. Anwendungsfälle sammeln, Architektur festlegen.
- Aufsetzen und Konfiguration, drei bis fünf Tage. Installation, Anmeldung, Absicherung, Erscheinungsbild.
- Anpassung und Anbindung, fünf bis zehn Tage. Dokumentstrecke, eigene Assistenten, Schnittstellen.
- Einführung und Schulung, zwei bis drei Tage. Administratoren, Nutzer, begleiteter Start.
Was die Einrichtung kostet
Für die individuelle Einrichtung bieten ein Pilot und ein Vollsystem Orientierung. Zum vereinbarten Umfang gehören der Aufbau, die Grundkonfiguration und die Anmeldung über einen Anbieter. Das konkrete Angebot richtet sich nach Ihren Anforderungen.
Die Stufe darüber deckt ERP- und Datenbankanbindung, mehrere Mandanten und eigene GPU-Infrastruktur ab und wird einzeln kalkuliert.
| Leistung | Individueller Pilot | Individuelles Vollsystem |
|---|---|---|
| Preis | 4.900 € netto | ab 12.900 € insgesamt |
| Umfang | Die Unterlagen einer Abteilung | Alle Abteilungen, alle Dokumentsorten |
| Dokumentstrecke | Aufbereitung der übergebenen Unterlagen | Dazu eine Strecke für neue Dokumente |
| Eigene Assistenten | Einer, für den Fall der Abteilung | Mehrere, dazu Agenten für eigene Abläufe |
| Rechte | Anmeldung über Ihr Verzeichnis | Rollen und Trennung zwischen Abteilungen |
| Schulung | Administration, vier Stunden | Ein Schulungstag für Ihre Nutzer |
| Danach | Dreißig Tage Unterstützung per E-Mail | Betrieb individueller Systeme ab 590 € im Monat |
Was laufend dazukommt
Die freie Fassung der Software kostet nichts. Laufend zahlen Sie drei Posten.
Ob das gegenüber einer Lizenz pro Kopf und Monat günstiger ist, hängt an der Nutzung. Bei wenigen Nutzern mit hohem Verbrauch sieht die Rechnung anders aus als bei vielen Nutzern mit gelegentlichen Fragen. Wir rechnen das im Erstgespräch mit Ihren Zahlen durch und schreiben hier keinen Prozentsatz hin, der für Ihren Fall vielleicht nicht gilt.
Drei laufende Posten
- Server. Eine Maschine im eigenen Rechenzentrum oder eine gemietete.
- Modellnutzung. Null, solange alles lokal läuft. Nach Verbrauch, sobald eine externe Schnittstelle im Spiel ist.
- Wartung. Aktualisierungen, Sicherungen, Zertifikate und Überwachung, wie bei jeder anderen Anwendung im Netz.
Wann sich der eigene Betrieb rechnet
Der eigene Betrieb lohnt sich, wenn mindestens einer der folgenden vier Punkte auf Sie zutrifft.
Dafür spricht
- Sie haben Unterlagen, die nicht in ein öffentliches Werkzeug dürfen.
- Sie wollen mehrere Modelle nebeneinander nutzen und den Anbieter wechseln können.
- Sie haben mehr Nutzer, als Sie einzeln lizenzieren wollen.
- Sie brauchen Assistenten, die an Ihre Abläufe gebunden sind und nicht an das, was ein Anbieter vorsieht.
Wann er sich nicht rechnet
Er lohnt sich nicht, wenn fünf Leute gelegentlich Texte formulieren lassen, keine eigenen Dokumente einfließen sollen und niemand im Unternehmen einen Server betreuen kann oder will. Dann ist ein Geschäftskonto beim Anbieter der ehrlichere Weg, und wir sagen das auch so.
Zwischen beiden Fällen liegt der übliche Zustand: Es gibt Unterlagen, es gibt Interesse, und es fehlt eine Entscheidung darüber, wo angefangen wird. Dafür gibt es die KI-Standortbestimmung mit Fahrplan: Voranalyse, zwei Intensivtage und schriftliche Handlungsempfehlungen, bevor Sie in ein System investieren.
Vier Fragen, die Sie vorher klären können
Diese vier Fragen beantworten Sie ohne uns, und sie machen jedes Gespräch danach kürzer.
Vier Fragen
- Welcher Fall soll besser werden? Nicht „Wissensmanagement“, sondern „der Innendienst beantwortet zwanzigmal am Tag dieselbe Frage nach Ersatzteilnummern“.
- Woher kommt die Anmeldung? Gibt es Entra ID, LDAP oder etwas anderes.
- Welche Unterlagen sollen hinein? Und in welchem Zustand sind sie.
- Darf ein externes Modell mitspielen? Und wenn ja, für welche Inhalte.
Was Sie als Nächstes tun
Wenn Sie das beisammen haben, ist die Frage nicht mehr, ob Open WebUI passt, sondern welcher Umfang. Was daraus bei uns wird, steht unter Wissenssysteme. Wer vorher die Leute mitnehmen will, findet den passenden Einstieg unter Schulung und Befähigung.
Oder Sie nehmen die halbe Stunde Erstgespräch und bringen die vier Antworten mit. Wir sagen Ihnen dann, ob daraus ein System wird und was der erste Schritt kostet.
Der technische Aufbau im Einzelnen
Was beim Armaturenhersteller auf dem Server läuft
Gebaut wurde ein Docker-Compose-Verbund auf einem Linux-Server im Netz des Unternehmens. Die Plattform hat eine eigene Subdomain, Aktualisierungen laufen über docker compose pull.
Der Verbund
- Open WebUI als Oberfläche.
- Qdrant als Vektordatenbank.
- docling-serve für die Dokumentaufbereitung.
- SearXNG als eigener Suchdienst für die Websuche.
- Microsoft Entra ID für die Anmeldung, per OAuth und OIDC gegen den vorhandenen Tenant.
Selbst betrieben heißt nicht alles im Unternehmen
Open WebUI läuft auf Ihrem Server. Welches Sprachmodell dahinter antwortet, ist eine zweite Entscheidung.
Hängt ein zugekauftes Modell daran, geht die Anfrage trotzdem hinaus. Wer das nicht will, betreibt das Modell mit, und das ist der Punkt, an dem die Rechnung anders aussieht.
Wenn die Oberfläche allein nicht reicht
Open WebUI ist das Fenster. Wir entwickeln, was dahinter liegt: Vektordatenbank, SQL-Ebene und die Strecke, die Ihre Unterlagen einliest.
Weiterlesen
- Wissenssysteme Die Leistung dahinter: Unterlagen und Erfahrungswissen abfragbar machen, mit Fundstelle und Zugriffsrechten.
- Technische Dokumentation durchsuchbar machen Der Bericht zu einem Armaturenhersteller, der die Plattform seit Dezember 2025 im eigenen Netz betreibt.
- KI-Standortbestimmung Der Schritt davor: herausfinden, welcher Fall sich lohnt, bevor ein Server aufgesetzt wird.