#Gemma

Eine KI-Zusammenfassung soll keine Geldbeträge nennen, die stehen im Dokument selbst und in einem geprüften Feld. Unser lokales Modell Gemma hatte in eine Beleg-Zusammenfassung 499,70 Euro geschrieben, wo der maschinell geprüfte Zahlcode 174,82 Euro auswies. Beim Zählen fanden wir 1.862 alte Zusammenfassungen mit Beträgen, und niemand kann korrekt von erfunden unterscheiden. Seitdem gilt bei uns: Zusammenfassungen beschreiben, was ein Dokument ist, nicht was es kostet. Was die Maschine nicht behaupten darf, kann sie auch nicht falsch behaupten.

Auf einen KI-Fehler muss man nicht sofort mit neuer Prüf-Logik antworten, manchmal ist Warten die bessere Reparatur. Als unser Modell in Beleg-Zusammenfassungen Beträge erfand, haben drei Zeilen im Prompt die Neuzugänge sauber gemacht. Die alten Einträge komplett neu analysieren zu lassen würde auf heutiger Hardware rund acht Nächte dauern, also warten wir damit auf den nächsten Modell-Sprung, statt Wächter-Code in die Pipeline zu bauen. Eine Pipeline, die mit jedem Fehler wächst, wird irgendwann selbst zum Fehler.

Dass eine Verbesserung nichts Bestehendes verschlechtert, stellt man sicher, indem man alt und neu über den kompletten Bestand laufen lässt, ohne etwas zu verändern. Bevor unsere überarbeitete Beleg-Erkennung live ging, die unserem lokalen Gemma-Modell die Kundennummern zuliefert, habe ich beide Fassungen read-only über 22.242 Archiv-PDFs geschickt: über dreitausend Kundennummern zusätzlich erkannt, keine einzige verloren, die wenigen Abweichungen einzeln geprüft. Erst diese Zahlen gaben die Freigabe für den Abend. Besser ist eine Änderung erst, wenn gemessen ist, dass nichts Vorhandenes verloren geht.

Wenn die KI einen Beleg falsch zuordnet, obwohl die Kundennummer daraufsteht, liegt der Fehler meist nicht bei der KI, sondern einen Schritt davor. Bei uns übersah eine zu schmale Leseregel die Kundennummern auf Barverkaufs- und Fahrzeugrechnungen, also musste Gemma aus dem Text raten und lag daneben. Nach dem Nachschärfen der Regel fanden sich in 22.242 Alt-Belegen über dreitausend Kundennummern zusätzlich, ohne dass die KI ein einziges Mal raten musste. Wer der Maschine die Fakten vorenthält, darf sich über ihr Raten nicht wundern.

Einzeln zugeordnet werden sollte nicht jedes Blatt einer Akte, denn ein Stapel gehoert meist zu einem einzigen Kunden und Fahrzeug. Als Gemma jedes Dokument fuer sich betrachtete, riet es beim Diagnoseausdruck den Geraetehersteller, obwohl das Deckblatt derselben Akte den Halter laengst nannte. Jetzt erbt der ganze Schwung zwischen zwei Trennblaettern denselben Korrespondenten, statt Seite fuer Seite neu zu raten. Wer den Zusammenhang wegwirft, muss ihn auf jedem Blatt neu erfinden.

Den Geraetehersteller traegt die KI als Kunden ein, weil sie den auffaelligsten Namen auf dem Blatt greift, nicht den richtigen. Unser lokales Modell Gemma ordnete einen Diagnoseausdruck dem aufgedruckten Tester-Hersteller Hella Gutmann zu, bei einer Fahrzeugrechnung sogar meinem eigenen Autohaus als Rechnungssteller, statt der Kundin. Jetzt haengt die Zuordnung an der Fahrgestellnummer, die eindeutig einen Halter trifft, und bekannte Nicht-Kunden sind hart gesperrt. Der groesste Name auf einem Dokument ist selten der gesuchte.

Eine Änderung an einem System, in dem tagsüber mehrere Kollegen live arbeiten, spielt man erst abends ein, wenn niemand mehr darin sitzt. Unsere Aktendigitalisierung läuft über einen Dauerdienst mit Gemma, und jedes Deploy heißt Neustart: die laufende Verarbeitung bricht ab, der neue Code wird scharf. Tagsüber wartet vielleicht eine Anmeldung auf die Bestätigung eines Scans, also baue und teste ich tagsüber nur trocken gegen eine Kopie und rolle erst nach Feierabend aus. Man fährt die Bühne nicht hoch, solange das Auto darauf steht.

Wenn eine KI einen Betrag erfindet, der nirgends auf dem Beleg steht, lässt man das Feld lieber leer als falsch. Unser Belegleser mit Gemma schrieb einmal 164,50 Euro auf einen Werkstattauftrag, auf dem gar keine Summe stand, frei erfunden und trotzdem völlig plausibel. Seitdem trage ich einen Betrag nur ein, wenn zwei Quellen sich einig sind, der QR-Code auf der Rechnung oder KI und Textsuche gemeinsam. Steht die Zahl nur an einer Stelle, bleibt das Feld leer. Eine leere Zahl fällt auf und wird geprüft, eine erfundene wird gebucht.

Ein Beleg soll gleich behandelt werden, egal ob er aus dem Scanner kommt, per Mail oder von Hand hochgeladen wird. Bei uns durchläuft jedes Dokument denselben vollen Flow: Texterkennung, Gemma für den Inhalt, dann Kontext und Felder. Seit die Warteschlange läuft, bekommt jedes neue Dokument denselben Stempel und wird angereichert, ganz gleich auf welchem Weg es hereinkam. Der Weg herein darf nicht über die Sorgfalt entscheiden.

Am Tresen muss niemand mehr warten, bis die KI fertig ist. Bisher blockierte jeder eingescannte Beleg den Ablauf gut fünfzig Sekunden lang, weil erst das Modell den Beleg lesen und einsortieren musste, bevor der nächste dran war. Jetzt lädt der Scan sofort roh hoch und trägt nur die Markierung Warteschlange, das Anreichern durch Gemma passiert danach im Hintergrund. Die Maschine soll dem Menschen nachlaufen, nicht der Mensch der Maschine.

Den Rechnungsbetrag lässt man besser von der KI lesen als von einer festen Textregel. Bei einem Test an fünf echten Rechnungen las unser lokales Modell, Gemma über Ollama, fünf von fünf Beträgen richtig, die alte Regel nur einen von fünf, weil sie viermal den Nettobetrag statt der Bruttosumme erwischte. Den Wert der KI nehme ich seitdem zuerst, die alte Regel läuft nur noch als stille Gegenprobe mit. Eine starre Regel trifft, was im Text zuerst steht, nicht das, was gemeint ist.

Eine KI sollte nur die unsicheren Felder aus einem Beleg ziehen, die festen holt zuverlässiger ein einfaches Muster. Unsere Dokumenten-Pipeline arbeitet in drei Stufen: erst ein deterministischer Mustervergleich für klare Felder wie Datum und Belegnummer, dann Gemma für alles Unscharfe wie Absender und Belegart, am Ende ein Abgleich beider Ergebnisse. So rät die Maschine nur dort, wo es nichts Eindeutiges gibt. Wo eine Regel reicht, braucht es kein Modell, das auch mal halluziniert.

Datumsfelder soll keine KI frei aus einem Dokument lesen, dafür gehört eine feste Regel. Beim ersten Praxiseinsatz unserer Beleg-Pipeline las das lokale Modell Gemma aus einem Datum 2026 schlicht 2024, und auf einem Personalausweis griff es das Ablauf- statt des Ausstellungsdatums. Seitdem ziehe ich strukturierte Felder wie Datum und Nummer per fester Regel, und die KI darf nur den Freitext deuten. Eine Maschine, die rät, soll das nur dort tun, wo Raten erlaubt ist.

Ein Bild allein reicht der Maschine nicht, sie braucht den Text daneben. Unsere Pipeline schickt Gemma über Ollama jetzt beides: das gescannte Dokument als Bild mit dreihundert DPI für Layout und Position, dazu den ausgelesenen Text für die exakten Werte. So liest sie ein Dokument in fünf bis fünfundzwanzig Sekunden, ohne Zahlen zu erraten. Das Auge zeigt, wo etwas steht, der Text sagt, was dort wirklich geschrieben ist.

Man lässt es die Maschine über Nacht machen. Unser lokales Modell, Gemma über Ollama, hat 672 Fahrzeugbilder in gut anderthalb Stunden beschrieben, ohne einen einzigen Fehler. Was einen Menschen Wochen kostet, war am Morgen fertig. Die Zeit, die frei wird, gehört dann dem Kunden, nicht dem Bildschirm.

Nein. Bei uns reicht ein guter Rechner mit einer einzelnen Grafikkarte in der Werkstatt, um hunderte Fahrzeugbilder lokal zu analysieren. Wer das selbst aufstellt, ist von keiner externen Schnittstelle und keiner Abrechnung nach Verbrauch abhängig. Die Einstiegshürde ist viel niedriger, als die meisten denken.

Im Haus. Unsere Bildanalyse läuft mit Gemma über Ollama auf einem Rechner in der Werkstatt, kein einziges Foto verlässt das Netz. Datenschutz ist dann keine Erklärung im Footer, sondern eine Architektur-Entscheidung. Und es kostet keine monatliche Cloud-Rechnung nach Verbrauch.