Termin buchen
Wissensblog

Was beim Bauen von KI-Systemen anfällt

Hier steht kein Trendbericht. Texte darüber, was beim Bauen und Betreiben dieser Systeme wirklich anfällt: wie Abruf und Sprachmodell zusammenspielen, was ein Modell im eigenen Netz kostet und braucht, und wo Datenschutz und Mitbestimmung die Bauweise bestimmen.

Beiträge

Lokale KI8. September 202614 Minuten

Welche KI-Modelle lokal laufen und für Firmen taugen

Ranglisten zu lokalen KI-Modellen veralten binnen Wochen, die Modellkarte der Hersteller nicht: Lizenz, Größenklasse und Kontextlänge stehen dort fest. Der Artikel vergleicht sieben Modellfamilien danach, rechnet vor, wie viel Arbeitsspeicher eine Größenklasse tatsächlich kostet, und zeigt, warum am Ende nur die eigene Abnahme an dreißig Fragen zählt.

Artikel lesen

Lokale KI8. September 202613 Minuten

KI lokal betreiben: was wirklich dazugehört

KI lokal betreiben heißt nicht installieren, sondern dauerhaft betreiben. Der Text geht die Entscheidungen der Reihe nach durch: wann man es lassen sollte, welche Lizenz ein Modell in Europa überhaupt zulässt, wie groß die Maschine sein muss, wie die Anmeldung an das vorhandene Verzeichnis läuft und was danach an laufender Arbeit bleibt.

Artikel lesen

Lokale KI8. September 202612 Minuten

KI-Hardware: welche Karte ein Betrieb wirklich braucht

Welche Hardware für lokale KI die richtige ist, entscheidet nicht die Zahl der Mitarbeiter, sondern die Modellgröße und die zugelassene Kontextlänge. Dieser Text rechnet den Bedarf für den Betrieb mit mehreren Nutzern vor. Ein Modell mit 70 Milliarden Parametern belegt in 4-Bit-Quantisierung rund 35 Gigabyte Grafikspeicher allein für die Gewichte, bevor der erste Mensch eine Frage gestellt hat. Er zeigt auch, wo eine verbreitete Zahl um mehr als das Zweihundertfache danebenliegt, und wann die Maschine im Serverraum bereits reicht.

Artikel lesen

Lokale KI8. September 202612 Minuten

Betriebsrat und KI: was mitbestimmt wird und was nicht

Bei der Einführung eines KI-Systems entscheidet nicht die Absicht, sondern die objektive Eignung zur Überwachung: § 87 Abs. 1 Nr. 6 BetrVG greift, sobald ein System Verhalten oder Leistung erfassen könnte. Der Beitrag ordnet die vier einschlägigen Normen des Betriebsverfassungsgesetzes, grenzt die Informationspflicht aus Art. 26 der KI-Verordnung auf Hochrisiko-Systeme ein und sagt, welche Unterlagen vor der ersten Sitzung auf dem Tisch liegen sollten.

Artikel lesen

Lokale KI8. September 202613 Minuten

Wie eine RAG-Pipeline aufgebaut wird

Fünf Stationen bringen ein Dokument vom Rohtext bis zur belegten Antwort, und an jeder einzelnen kann eine falsche Entscheidung später wie ein Fehler des Sprachmodells aussehen. Der Beitrag zeigt, mit welchen Bauteilen diese Strecke steht, und warum ausgerechnet die Zugriffsrechte zur schwierigsten Stelle werden. Dazu die Rechnung, was Arbeitsspeicher und Einbettung für einen mittleren Bestand tatsächlich kosten.

Artikel lesen

Lokale KI8. September 202613 Minuten

Europäische KI: welche Modelle es gibt und was sie leisten

Fünf Namen liefern heute europäische KI-Modelle zum Herunterladen, und keines davon führt die öffentlichen Ranglisten an. Der Artikel zeigt, wo die Lizenz offen ist und wo nicht, was ein offenes Modell an Grafikspeicher braucht und warum die KI-Verordnung nach der Herkunft gar nicht fragt. Am Ende steht, worauf es beim Betrieb im eigenen Netz wirklich ankommt.

Artikel lesen

Lokale KI8. September 202612 Minuten

Schatten-KI im Unternehmen und was die IT-Leitung dagegen tun kann

Schatten-KI ist die Nutzung privater KI-Werkzeuge für die Arbeit, ohne Freigabe und ohne Kenntnis der IT. Der Beitrag ordnet die Bitkom-Zahlen von 2024 und 2025 ein und benennt die Beleglücken. Er erklärt außerdem, warum ein Verbot ohne Angebot nichts nachweisbar macht und was ein freigegebener Zugang im eigenen Netz daran ändert.

Artikel lesen

Lokale KI8. September 202614 Minuten

KI-Modelle im Vergleich: fünf Kriterien statt Rangliste

Eine Bestenliste beantwortet nicht, welches KI-Modell zu Ihrem Betrieb passt. Dafür sorgen fünf Kriterien: Kosten, Datenort, Sprache, Kontext und Lizenz. Der Text zeigt, wie Sie die fünf in einer Arbeitswoche selbst prüfen, und warum Benchmarkwerte dabei kaum weiterhelfen.

Artikel lesen

Lokale KI8. September 202613 Minuten

Lokales LLM statt ChatGPT: wo es reicht und wo nicht

Für die Suche in eigenen Unterlagen, für Zusammenfassungen und für die Prüfung gegen feste Vorgaben schlägt sich ein Modell im eigenen Unternehmen nach unserer Erfahrung gut, beim Programmieren und bei sehr langen Vorlagen fällt es zurück. Der Beitrag prüft zehn Behauptungen aus Fachpresse und Auswahlratgebern gegen die Primärquellen und zeigt, dass die dort zitierten Vergleichsmodelle mit 230 bis 397 Milliarden Parametern auf keiner Arbeitsplatz-Hardware laufen. Am Ende steht eine Prüfwoche, mit der ein Betrieb die Frage an den eigenen Fällen beantwortet.

Artikel lesen

Lokale KI8. September 202612 Minuten

KI im Unternehmen einführen: was die IT-Leitung vorher prüft

Sieben Fragen entscheiden, ob eine IT-Leitung ein lokales KI-System freigibt: Betriebsort, Anmeldung, Rechte, Wartung, Ausfallplan, Aufzeichnungen und Übergabe. Keine davon ist neu, nur liegen die Antworten diesmal an Stellen, in die sonst niemand schaut. Diese Prüfliste lässt sich direkt an die eigene IT weiterreichen.

Artikel lesen

Anwendungsfälle8. September 202612 Minuten

Lastenheft und Pflichtenheft: der Unterschied und die Prüfung per KI

Die Norm definiert zwei Begriffe und schreibt keinen Inhalt vor. Der Beitrag trennt, was DIN 69901-5 wirklich regelt, von dem, was ihr die Ratgeberliteratur zuschreibt. Er nennt die fünf Fehlermuster, an denen Anforderungsdokumente scheitern, und zeigt an einem realen Dokument mit 432 Seiten, was ein maschineller Prüflauf davon findet.

Artikel lesen

Lokale KI5. September 202614 Minuten

On-Premise vs. Cloud: was der Betrieb im eigenen Unternehmen kostet

Ob sich ein eigener Server rechnet, hängt nicht an der Zahl der Nutzer, sondern an deren Auslastung. Der Artikel rechnet einen Mietzugang und ein eigenes System über drei Jahre gegeneinander, für 10 bis 100 Nutzer, und nennt die Schwelle, ab der sich der Eigenbetrieb lohnt. Er zeigt außerdem, welche Posten wie Strom, Kühlung und Arbeitszeit in den meisten veröffentlichten Rechnungen fehlen.

Artikel lesen

Lokale KI5. September 202614 Minuten

KI-Compliance: was ein Betrieb tatsächlich nachweisen muss

Ob ein KI-Einsatz zulässig ist, zeigt sich nicht am Serverstandort, sondern an vier Belegen aus dem laufenden Betrieb: dem Auftragsverarbeitungsvertrag, der Zweckbindung je Quelle, einer Löschung bis in den Index und den Zugriffsrechten, die ein Dokument dort behält. Der Artikel ordnet dazu die gestaffelten Fristen der KI-Verordnung nach Anbieter- und Betreiberpflichten und zeigt an einem belegten Fall, welche Mappe am Ende beim Datenschutzbeauftragten landet.

Artikel lesen

KI erklärt12. Dezember 202510 Minuten

Open WebUI als ChatGPT-Alternative: was es kann und was es kostet

Open WebUI ist eine Oberfläche für Sprachmodelle, die auf eigenen Servern läuft und sich für die Nutzer anfühlt wie ein gewohntes Chatfenster. Der Artikel beschreibt Funktionsumfang, Modellwahl, Rechte und Mehrbenutzerbetrieb. Wir setzen die Plattform selbst ein, unter anderem im Wissenssystem eines Armaturenherstellers.

Artikel lesen

Grundlagen19. September 202517 Minuten

Was ein RAG-System ist und wie es funktioniert

Ein Sprachmodell weiß nur, was in seinen Trainingsdaten stand. Fünf Wörter beschreiben, was RAG daran ändert: Das Modell schlägt vorher nach. Der Artikel geht den Weg von der Frage über den Index bis zur fertigen Antwort durch, nennt den Ursprung des Begriffs und die Datenbanken, die heute dahinterliegen.

Artikel lesen

Anwendungsfälle10. Januar 20248 Minuten

Chatbot im Kundenservice: was ein KI-Assistent übernimmt

Ein Chatbot im Kundenservice beantwortet die wiederkehrende Auskunft aus den freigegebenen Unterlagen des Unternehmens und nennt dazu die Fundstelle. Der Beitrag zeigt, was ein Armaturenhersteller dafür gebaut hat. Er beschreibt außerdem, was der Assistent nicht übernimmt und woran solche Projekte in der Praxis scheitern.

Artikel lesen

Aktualität der Beiträge

Ein Beitrag, der grundlegend neu gefasst wurde, trägt das Datum der Neufassung. Ein Beitrag, der nur ergänzt wurde, behält das Datum der Erstveröffentlichung und nennt den Stand in den Eckdaten. Adresse und Thema bleiben, wer einen Text schon einmal gelesen hat, findet ihn wieder.

Wir schreiben, wenn wir etwas gebaut haben und daraus etwas folgt. Mit Anwendungsfällen und Praxiswissen wollen wir zeigen, was mit KI in einem Betrieb möglich ist, und andere dazu bringen, es selbst zu versuchen.

Die Beiträge geben den Stand ihres Datums wieder. Ein Beitrag, der grundlegend neu gefasst wurde, trägt das Datum der Neufassung; ein Beitrag, der nur ergänzt wurde, behält das Datum der Erstveröffentlichung und nennt den Stand in den Eckdaten. Die Texte ersetzen keine Rechtsberatung, insbesondere nicht bei Fragen zu DSGVO und KI-Verordnung.

Welche Frage bleibt nach dem Lesen offen?

Eine halbe Stunde. Sie sagen uns, welcher Text Ihrem Fall am nächsten kommt und was dabei offen geblieben ist. Wir sagen Ihnen, ob sich daraus bei Ihnen etwas bauen lässt und was der erste Schritt wäre.

Lieber ohne Kalender? info@deep5.io oder +49 176 57703783.