Warum erfindet ein KI-Chatbot Quellen-Links, die es gar nicht gibt?

Ein KI-Chatbot erfindet Quellen-Links, weil er nur die Textausschnitte sieht, die man ihm vorlegt, und fehlende Adressen plausibel ergänzt. Unsere interne Loco-Soft-Hilfe, ein Chat über 1.176 Hilfeseiten, nannte anfangs Verweise, die es nie gab: die Dateinamen lagen der Maschine schlicht nicht vor. Seit die echte Adresse der Original-Hilfeseite am Anfang und am Ende jeder Seite steht und nur wörtlich vorliegende Adressen zitiert werden dürfen, stimmen die Links, drei von drei Stichproben geprüft. Eine KI zitiert nicht, was sie weiß, sondern was man ihr vor die Augen legt.