benjamin weinlich
← Journal

#KI

68 Beiträge zu diesem Thema, neueste zuerst.

Warum trug unsere Software den eigenen Betrieb als Absender ein?

Den eigenen Betrieb trug unsere Software als Absender ein, weil die KI auf unseren Ausgangsrechnungen den eigenen Briefkopf las und ihn für den Geschäftspartner hielt. Unser lokales Modell über Ollama hatte so dreizehn Namensvarianten des eigenen Hauses angelegt, verteilt auf achtundfünfzig Dokumente. Ich habe eine Sperrliste davorgesetzt und gegen alle 122 automatisch angelegten Partner geprüft: 63 fielen raus, 59 blieben, keiner davon zu Unrecht. Auch wenn wir selbst auf dem Blatt stehen, sind wir nicht der Absender.

Muss man kennzeichnen, wenn im eigenen Video eine KI spricht?

Kennzeichnen muss man es, sobald eine KI hörbar mitspricht, und ab dem zweiten August 2026 ist das in Europa Pflicht. Artikel fünfzig des EU AI Act verlangt, dass synthetische Inhalte als solche erkennbar sind. Mein Interviewer, gebaut mit LiveKit und Claude, sagt es deshalb schon im ersten Satz selbst, und in der Videobeschreibung steht es noch einmal. Für mich ist das keine Hürde, sondern der ehrlichste Aufhänger: Wer offen sagt, dass hier eine Maschine fragt, muss nichts verstecken.

Was darf eine KI wissen, die öffentlich für den Betrieb spricht?

Eine KI, die öffentlich spricht, darf nur wissen, was auch öffentlich gesagt werden darf. Ich baue gerade einen Interviewer, der mich vor der Kamera befragt, und der eigentliche Hebel war nicht die Technik, sondern das Vorwissen: echte Projekte, harte Zahlen, eigene Fehlschläge, etwa 819 statt 1.176 verarbeiteter Dokumente. Deshalb gilt bei mir eine einfache Regel: Was im Briefing steht, kann die Maschine aussprechen, also stehen dort keine Kundennamen und keine Kennzeichen. Was eine Maschine weiß, sagt sie irgendwann, und selten im passenden Moment.

Wird eine KI im Betrieb zwangsläufig zur Leistungskontrolle der Mitarbeiter?

Zur Leistungskontrolle wird eine KI im Betrieb nur, wenn man sie so baut. Unsere eigene Werkstatt-KI liest die offenen Loco-Soft-Aufträge mit, aber ihre Datenbank hat bewusst kein einziges Feld für Tempo, Fehlerquote oder die Bewertung einer Person, und sie schreibt nichts nach Loco zurück. Das haben wir schriftlich festgehalten, damit es auch in zwei Jahren niemand versehentlich anders entscheidet. Was gar nicht erst gespeichert wird, kann später niemand gegen einen Mitarbeiter verwenden.

Was tut eine Telefon-KI, wenn eine Rufnummer zu mehreren Kunden gehört?

Wenn eine Rufnummer zu mehreren Kunden gehört, braucht die Telefon-KI eine feste Regel, sonst rät sie. Beim Aufbau der Kundentabelle fand ich 436 Nummern, die auf mehrere Datensätze zeigen, 929 Kunden sind betroffen: mal dieselbe Familie, mal völlig fremde Leute. Ich lasse jetzt den jüngsten Kontakt gewinnen, damit am Telefon der richtige Name erscheint. Ein Schlüssel, der nicht eindeutig ist, braucht eine Entscheidung und keine Vermutung.

9. Juli 2026 Frage

Soll eine KI-Zusammenfassung Geldbeträge nennen?

Eine KI-Zusammenfassung soll keine Geldbeträge nennen, die stehen im Dokument selbst und in einem geprüften Feld. Unser lokales Modell Gemma hatte in eine Beleg-Zusammenfassung 499,70 Euro geschrieben, wo der maschinell geprüfte Zahlcode 174,82 Euro auswies. Beim Zählen fanden wir 1.862 alte Zusammenfassungen mit Beträgen, und niemand kann korrekt von erfunden unterscheiden. Seitdem gilt bei uns: Zusammenfassungen beschreiben, was ein Dokument ist, nicht was es kostet. Was die Maschine nicht behaupten darf, kann sie auch nicht falsch behaupten.

9. Juli 2026 Frage

Steckt der Wert einer KI-Lösung im Werkzeug oder in den Daten?

Der Wert einer KI-Lösung steckt in den aufbereiteten Daten, nicht im Werkzeug drumherum. Wir haben den internen Doku-Chatbot für unser Werkstatt-Programm Loco-Soft vom Eigenbau auf die fertige Software Open WebUI umgestellt, und die eigentliche Arbeit zog einfach mit um: 1.184 sauber aufbereitete Hilfetexte und 85 Hersteller-PDFs. Das alte Programm war nach einem Tag ersetzt, die Daten blieben ohne eine Stunde Nacharbeit nutzbar. Werkzeuge kommen und gehen, gut aufbereitete Daten überleben jeden Wechsel.

8. Juli 2026 Frage

Darf man gekaufte Herstellerdoku von einer externen KI verarbeiten lassen?

Gekaufte Herstellerdoku darf man von einer externen KI verarbeiten lassen, solange das rein intern bleibt und der Anbieter mit den Daten nicht trainiert. Ich habe unseren internen Frage-Antwort-Helfer für die Loco-Soft-Handbücher aus Sorge um das Urheberrecht lange klein gehalten und lag daneben: rechtlich ist das Auftragsverarbeitung, nichts anderes, als dieselben PDFs in der Cloud abzulegen. Jetzt stecken die aktuelle Hilfe und 85 offizielle Handbuch-PDFs drin, zusammen gut viertausend Wissensabschnitte. Übertriebene Vorsicht hat auch einen Preis: das Werkzeug, das man sich nicht zu bauen traut.

8. Juli 2026 Frage

Warum ordnet die KI einen Beleg falsch zu, obwohl die Kundennummer daraufsteht?

Wenn die KI einen Beleg falsch zuordnet, obwohl die Kundennummer daraufsteht, liegt der Fehler meist nicht bei der KI, sondern einen Schritt davor. Bei uns übersah eine zu schmale Leseregel die Kundennummern auf Barverkaufs- und Fahrzeugrechnungen, also musste Gemma aus dem Text raten und lag daneben. Nach dem Nachschärfen der Regel fanden sich in 22.242 Alt-Belegen über dreitausend Kundennummern zusätzlich, ohne dass die KI ein einziges Mal raten musste. Wer der Maschine die Fakten vorenthält, darf sich über ihr Raten nicht wundern.

2. Juli 2026 Frage

Taugen KI-erstellte Prüfungsfragen wirklich zum Üben?

KI-erstellte Prüfungsfragen taugen nur zum Üben, wenn sie kein Muster verraten. Als ich mir für die GP1-Prüfung Fragen zum Thema Bremsen bauen ließ, lag die richtige Antwort fast immer auf B und war die längste, ausführlichste Option. So knackt man die Frage allein am Muster, ohne ein Wort Fachwissen, und geübt hat man am Ende nichts. Seitdem lasse ich alle vier Antworten gleich lang halten und die Lösung zufällig über A bis D streuen. Ein Test, den man ohne Wissen besteht, misst kein Wissen.

1. Juli 2026 Frage

Soll die KI mir bei einer Übungsaufgabe gleich den Rechenweg mitliefern?

Bei einer Übungsaufgabe soll die KI mir gerade nicht den Rechenweg mitliefern, sonst rechne ich nie selbst. Für die Gesellenprüfung lasse ich mir Aufgaben zu Elektrik und technischer Mathematik stellen, die Lösung ziehe ich dann mit dem Tabellenbuch von Hand. Beim Kontrollieren will ich nur ein Häkchen oder ein Kreuz, keine fertige Formel. Wer die fertige Rechnung nur liest, versteht sie für eine Minute, wer sie selbst zieht, behält sie. Die Mühe ist nicht der Umweg zum Lernen, sie ist das Lernen.

Wie versteht man Fachbegriffe, die einem völlig fremd vorkommen?

Fachbegriffe, die einem fremd vorkommen, versteht man am besten, indem man das Wort zerlegt, statt es auswendig zu lernen. Beim Lernen für die Mechatroniker-Ausbildung stand ich vor dem Wort Ventilkolben und hielt es zuerst für einen Widerspruch. Eine KI half mir nicht mit Merksätzen, sondern zeigte mir den Aufbau: das letzte Wort sagt, was das Teil ist, ein Kolben, und das davor, wofür, es betätigt die Ventile. Wer den Bau eines Begriffs versteht, muss ihn nicht mehr auswendig lernen.

Soll man beim Abfragen die Antwort schon andeuten?

Beim Abfragen soll man die Antwort nicht schon andeuten, sonst prüft man am Ende nichts mehr. Ich lasse mich von Claude für die GP1-Prüfung aus dem Fachkundebuch abfragen, und die ersten Fragen trugen Tipp-Zeilen und Lösungsstichworte in Klammern. Ich habe sie streichen lassen: erst antworte ich aus dem Kopf, die Erklärung kommt danach. Eine Frage, die den Hinweis schon mitliefert, ist keine Prüfung, sondern eine Vorlage zum Abnicken.

Was passiert mit dem Wissen, wenn ein erfahrener Kollege in Rente geht?

Wenn ein erfahrener Kollege in Rente geht, nimmt er ohne Vorsorge sein halbes Wissen mit. Bei uns ist genau das passiert: vieles, was er über Jahrzehnte konnte, stand nur in seinem Kopf und nirgends sonst. Darum halten wir jetzt jeden wiederkehrenden Ablauf, etwa die Service-Annahme, als Diagramm im Nextcloud-Handbuch fest. Jeder so festgehaltene Prozess wird später Baustein einer eigenen Werkstatt-KI, die den Kollegen hilft, wenn sie nicht weiterwissen. Ein Kopf geht in Rente, ein aufgeschriebener Handgriff bleibt.

Warum zeigten unsere KI-Bilder eine Tischlerei statt einer Kfz-Werkstatt?

Unsere KI-Bilder zeigten eine Tischlerei statt einer Kfz-Werkstatt, weil im Prompt der eigentliche Anker fehlte. Die erste Bildserie mit Nano Banana 2 war warm, ruhig und sauber belichtet, traf aber die Branche nicht: Holzwerkbank in einer Steinscheune statt Hebebühne und Motorraum. Erst als ich Auto, Diagnosegerät und freie Werkstatt ausdrücklich in jeden Prompt geschrieben habe, kam das, was gemeint war. Eine Maschine macht genau das, was dasteht, nicht das, was ich meine.

Soll ein Bild für die Website perfekt aussehen oder echt?

Ein Bild für die Website soll echt aussehen, nicht perfekt. Die ersten Entwürfe aus Nano Banana 2 waren hochglänzend und gestellt, ein Server zwischen Zimmerpflanzen, ein Oldtimer neben einem Traktor, alles zu sauber für eine echte freie Werkstatt. Die nächste Serie habe ich bewusst eine Spur rauer angelegt, etwas Öl unter den Fingernägeln, Werkstatt statt Lifestyle. Wer als kleiner Praktiker auftritt, verliert seine Glaubwürdigkeit, sobald das Bild zu glatt wird.

2. Juni 2026 Frage

Soll eine KI ihre eigenen Beiträge ungeprüft veröffentlichen?

Ungeprüft veröffentlicht eine KI bei mir gar nichts. Zwischen dem Modell, das die Notizen schreibt, und der Website sitzt ein fester Torwächter, ein Skript, das jeden Entwurf gegen Secrets, Stil, Schema und Dubletten prüft und alles Zweifelhafte in die Quarantäne legt. Erst was diese starren Regeln passiert, geht live, abgeglichen gegen fünfundachtzig bestehende Notizen. Eine Maschine darf schreiben, aber entscheiden, was öffentlich wird, soll eine Regel, nicht eine zweite Meinung.

18. Mai 2026 Frage

Darf eine KI eine Fahrzeugnummer selbst geradebiegen?

Eine Fahrzeugnummer darf eine KI nur nach festen Regeln geradebiegen, niemals nach Gefühl. In einer eigenen Funktion macht das System aus einem O eine Null, aus einem I eine Eins und aus einem Q eine Neun, weil eine Fahrgestellnummer diese drei Zeichen nie enthält. Danach prüft eine Regel hart auf genau siebzehn erlaubte Zeichen, sonst bricht es ab. Korrigieren darf nur, wer die Grenzen kennt, an denen das Korrigieren aufhört.

6. Mai 2026 Frage

Kann man sich auf Konfigurations-Tipps einer KI verlassen?

Nur mit Gegenprüfung. Eine KI hat mir beim Einrichten von Vaultwarden eine Einstellung empfohlen, die vollkommen plausibel klang und schlicht nicht existierte. Seitdem gleiche ich jede Konfig-Auskunft mit der offiziellen Vorlage oder dem Quellcode ab, bevor ich sie übernehme. Plausibel ist nicht dasselbe wie wahr, und eine KI sagt das Falsche genauso ruhig wie das Richtige.