„Können wir dafür nicht einfach ChatGPT nutzen?“
Diese Frage kommt fast immer, wenn wir mit Bauunternehmen über KI sprechen. Und sie ist verständlich. Schließlich kann ChatGPT Texte zusammenfassen, Fragen beantworten und Dokumente analysieren.
Schwierig wird es allerdings, sobald es um echte Projektdaten geht: Verträge, Rechnungen, Zahlungspläne, Namen und Adressen von Bauherren. Dann reicht ein guter Chatbot nicht mehr. Man braucht eine Lösung, bei der klar ist, wo die Daten liegen, wer darauf zugreifen kann und auf welcher Grundlage eine Antwort entsteht.
Für einen deutschen Bauträger haben wir deshalb eine eigene KI-Plattform entwickelt. Sie durchsucht Projektdokumente und baurechtliche Quellen, beantwortet interne Fragen und verarbeitet sensible Daten ausschließlich innerhalb der eigenen Infrastruktur.
So funktioniert sie.
Das eigentliche Problem: Das Wissen ist da, aber niemand findet es schnell
Bei einem einzigen Bauprojekt entstehen schnell hunderte Dokumente: Verträge, Zahlungspläne, Abschlagsrechnungen, Nachträge, Aufmaße, Lieferscheine, Bautagesberichte und E-Mails.
Dazu kommen BGB, VOB/B, GEG, MaBV, Landesbauordnungen sowie Förderbedingungen von KfW und BAFA.
Die Informationen existieren also bereits. Sie liegen nur an zehn verschiedenen Orten.
Wer wissen möchte, welche Abschlagszahlung als Nächstes fällig ist oder was im letzten Nachtrag vereinbart wurde, beginnt zu suchen. Und wenn man selbst nichts findet, fragt man einen Kollegen, der dann ebenfalls sucht.
Genau hier kann KI sehr hilfreich sein.
Ein öffentlicher KI-Chatbot löst das Problem allerdings nur teilweise. Er kennt die internen Projektdaten nicht. Bei Rechtsfragen kann er überzeugend klingende, aber falsche Antworten produzieren. Und sensible Vertrags- oder Kundendaten einfach in ein externes Cloud-System zu kopieren, ist aus Datenschutzsicht keine besonders gute Idee.
Deshalb haben wir die Architektur anders aufgebaut.
Datenschutz ist Teil der Technik
Wir wollten Datenschutz nicht davon abhängig machen, dass jeder Mitarbeiter jederzeit daran denkt, welche Informationen er in welches System eingeben darf.
Die Plattform trennt deshalb technisch zwischen zwei Arten von Wissen.
Öffentliches Wissen umfasst Gesetze, Normen, Förderrichtlinien und technische Dokumentationen. Diese Informationen enthalten keine Kundendaten und können über leistungsfähige Modelle innerhalb einer kontrollierten EU-Cloud-Infrastruktur verarbeitet werden.
Interne Projektdaten umfassen Verträge, Rechnungen, Zahlungspläne, Baustellenfotos und andere sensible Informationen. Diese Daten bleiben auf der eigenen Infrastruktur und werden von einem lokal betriebenen Open-Source-Sprachmodell verarbeitet.
Diese Trennung passiert automatisch.
Ein Mitarbeiter muss also nicht entscheiden, welches Modell für eine Anfrage geeignet ist. Das System erkennt den Kontext und routet die Anfrage auf den entsprechenden Pfad. Sensible Projektdaten können technisch nicht versehentlich an das Cloud-Modell geschickt werden.
Für uns ist das ein wichtiger Unterschied: Datenschutz als technische Eigenschaft des Systems und nicht nur als Regel im Mitarbeiterhandbuch.
Wie findet die KI die richtige Information?
Ein Sprachmodell sollte nicht versuchen, Projektdetails oder Paragraphen aus seinem Trainingswissen zu erraten.
Stattdessen sucht unser System zuerst nach den relevanten Informationen und gibt sie anschließend zusammen mit der Frage an das Sprachmodell weiter. Dieses Prinzip nennt sich Retrieval-Augmented Generation, kurz RAG.
Entscheidend ist dabei nicht nur das Sprachmodell. Entscheidend ist vor allem, ob vorher die richtigen Dokumente gefunden wurden.
Deshalb kombinieren wir mehrere Suchmethoden.
Exakte Suche und semantische Suche
Eine klassische Volltextsuche ist sehr gut darin, Dinge wie „§ 650m BGB“, Rechnungsnummern oder konkrete Fachbegriffe zu finden.
Eine semantische Suche versteht dagegen auch unterschiedliche Formulierungen. Wer beispielsweise nach „Kündigung durch den Bauherrn“ fragt, kann dadurch auch relevante Dokumente finden, in denen andere juristische Begriffe verwendet werden.
Wir führen beide Suchen parallel aus und kombinieren anschließend ihre Ergebnisse.
Die Anfrage verstehen
Menschen formulieren Fragen selten so, wie sie in einem Gesetzbuch stehen.
„Der Handwerker kommt nicht“ kann juristisch beispielsweise mit Verzug, Fristsetzung oder bestimmten Regelungen des BGB zusammenhängen.
Das System erweitert solche Anfragen deshalb automatisch um passende Fachbegriffe und juristische Anker. Dadurch steigt die Wahrscheinlichkeit, tatsächlich die relevante Quelle zu finden.
Die besten Treffer noch einmal prüfen
Die Suchmaschine liefert zunächst mehrere mögliche Textstellen. Ein zusätzliches Reranking-Modell bewertet anschließend, welche davon wirklich am besten zur ursprünglichen Frage passen.
Erst die besten Ergebnisse werden dem Sprachmodell gegeben.
Das klingt nach einem kleinen Detail. In der Praxis macht genau dieser Schritt einen erheblichen Unterschied bei der Qualität der Antworten.
Dokumente sinnvoll zerlegen
Auch die Art, wie Dokumente gespeichert werden, spielt eine Rolle.
Gesetzestexte zerlegen wir beispielsweise nicht nach einer beliebigen Anzahl von Wörtern oder Tokens. Ein Paragraph bleibt möglichst als vollständige Einheit erhalten.
Das klingt banal, verhindert aber, dass ein wichtiger rechtlicher Zusammenhang mitten im Satz oder zwischen zwei Absätzen auseinandergerissen wird.
Der Assistent ist eigentlich kein Chatbot
Für den Nutzer sieht das System wie ein normales Chatfenster im Projekt-Dashboard aus.
Im Hintergrund passiert jedoch etwas anderes.
Die Plattform entscheidet zunächst, um welche Art von Frage es sich handelt.
Bei einer Frage wie „Wie hoch ist die vierte Abschlagszahlung?“ wird direkt auf die strukturierten Projektdaten zugegriffen. Ein Sprachmodell soll keine Zahlen erraten, die bereits korrekt in einer Datenbank stehen.
Bei Fragen wie „Was wurde im Nachtrag zum Rohbau vereinbart?“ durchsucht das System die Projektdokumente und lässt das lokale Modell die relevanten Stellen zusammenfassen.
Bei Rechtsfragen wird der Rechtskorpus durchsucht. Die Antwort basiert auf den gefundenen Quellen und enthält entsprechende Verweise.
Und wenn eine Anfrage eine tatsächliche Aktion auslösen soll, etwa einen Meilenstein freizugeben oder eine Rechnung anzustoßen, reicht eine Chat-Antwort nicht aus. Die Aktion muss von einem Menschen ausdrücklich bestätigt werden.
Das ist eine bewusste Entscheidung.
Wir setzen bei solchen Prozessen nicht auf möglichst autonome KI-Agenten, sondern auf kontrollierte Abläufe mit klar definierten Aufgaben für das Sprachmodell.
Denn bei Verträgen, Zahlungen und Projektentscheidungen ist Nachvollziehbarkeit wichtiger als beeindruckende Autonomie.
Jede relevante Antwort lässt sich auf ihre Quellen zurückführen. Jede Aktion wird protokolliert.
Vertrauen entsteht durch Tests, nicht durch eine gute Demo
Eine KI-Demo kann beeindruckend aussehen und trotzdem im Alltag unzuverlässig sein.
Deshalb testen wir Retrieval und Antworten getrennt voneinander.
Wir verwenden reale Fragen aus der Baupraxis und vergleichen die Ergebnisse mit zuvor geprüften Antworten. Außerdem testen wir dieselbe Frage in unterschiedlichen Formulierungen: so, wie ein Bauherr, ein Polier oder ein Jurist sie stellen könnte.
Das System sollte unabhängig von der Formulierung bei derselben relevanten Quelle landen.
Neue Retrieval-Komponenten werden zunächst parallel zum bestehenden System getestet. Erst wenn sich messbar zeigt, dass sie mindestens genauso zuverlässig oder besser funktionieren, werden sie produktiv eingesetzt.
Und es gibt noch einen Test, den wir besonders wichtig finden:
Das System muss wissen, wann es keine Antwort hat.
Wenn keine belastbare Quelle gefunden wird, soll der Assistent das sagen. Eine überzeugend formulierte Vermutung ist im Baurecht deutlich gefährlicher als ein ehrliches „Dazu liegen mir keine gesicherten Informationen vor“.
Was wir dabei gelernt haben
Die Qualität der Suche ist oft wichtiger als die Größe des Sprachmodells.
Ein kleineres Modell mit den richtigen Informationen kann deutlich bessere Antworten liefern als ein größeres Modell mit schlechtem Kontext.
Bei Geld darf KI nicht kreativ werden.
Beträge werden als exakte Centwerte gespeichert und berechnet. Zahlungspläne und Rechnungen gehören in deterministische Systeme, nicht in probabilistische Berechnungen eines Sprachmodells.
Lokale Sprachmodelle sind inzwischen erstaunlich leistungsfähig.
Ein gut konfiguriertes Modell auf eigener GPU-Hardware kann Projektfragen beantworten, Dokumente analysieren, Informationen aus Tabellen extrahieren und Sprachnotizen verarbeiten, ohne sensible Projektdaten an externe Anbieter zu übertragen.
Die Dokumentenaufbereitung ist mindestens so wichtig wie die KI selbst.
Bevor ein Dokument überhaupt durchsuchbar wird, muss einiges passieren: PDFs werden analysiert, Tabellen erkannt, Adressen vereinheitlicht, Duplikate entfernt und fehlerhafte OCR-Texte erkannt.
Wenn die Datenbasis schlecht ist, hilft auch das beste Sprachmodell nicht.
Fazit
Ein interner KI-Assistent für ein Bauunternehmen ist am Ende viel mehr als ein Chatbot.
Er verbindet Dokumentenmanagement, intelligente Suche, Sprachmodelle, Datenschutz und kontrollierte Geschäftsprozesse.
Die eigentliche Herausforderung besteht nicht darin, eine KI zum Antworten zu bringen. Das kann heute fast jedes Modell.
Die Herausforderung besteht darin, dafür zu sorgen, dass sie die richtigen Informationen findet, sensible Daten schützt, ihre Quellen zeigt und weiß, wann sie besser keine Antwort geben sollte.
Erst dann wird aus einer beeindruckenden KI-Demo ein Werkzeug, das im Arbeitsalltag tatsächlich nützlich ist.
Wenn Sie wissen möchten, wie eine solche Plattform in Ihrem Unternehmen aussehen könnte, erreichen Sie uns unter info@bergstone.de.