Halluzination bei KI einfach erklärt
Von Halluzination spricht man, wenn ein Sprachmodell etwas behauptet, das nicht stimmt, und zwar in demselben sicheren Ton wie eine richtige Antwort. Das passiert, weil das Modell wahrscheinliche Fortsetzungen berechnet, nicht Wahrheit prüft. Im Unternehmen begrenzt man das Risiko, indem das Modell nur aus mitgegebenen Quellen antwortet, Quellen nennt und ein Mensch vor Folgen prüft.
Ein Sprachmodell erzeugt Text, indem es berechnet, welche Fortsetzung am wahrscheinlichsten ist. Es prüft nicht, ob das Ergebnis wahr ist. Wenn die Frage nach einer Information verlangt, die das Modell nicht hat, erzeugt es trotzdem eine Antwort, und die klingt genauso sicher wie eine richtige. Das nennt man Halluzination. Erfundene Paragrafen, nicht existierende Normen, falsche Liefertermine, Zitate, die nie gesagt wurden: Alles schon vorgekommen.
Ein Beispiel aus dem Alltag
Ein Mitarbeiter fragt einen allgemeinen Chatdienst, welche Kündigungsfrist im Rahmenvertrag mit einem Kunden gilt. Der Dienst kennt den Vertrag nicht, antwortet aber: „Die Kündigungsfrist beträgt drei Monate zum Quartalsende.“ Das ist eine übliche Frist, deshalb klingt es plausibel. Im Vertrag stehen sechs Monate zum Jahresende. Hätte der Mitarbeiter danach gehandelt, wäre die Kündigung zu spät gekommen.
Wie man das Risiko begrenzt
Ausschließen lässt sich Halluzination nicht, begrenzen aber deutlich. Erstens durch RAG: Das Modell bekommt die relevanten Dokumente mitgeliefert und darf nur daraus antworten. Zweitens durch Quellenpflicht: Jede Aussage trägt einen Verweis, den der Mitarbeiter prüfen kann. Drittens durch klare Anweisungen im Prompt, bei fehlender Information „unbekannt“ zu sagen. Viertens durch menschliche Prüfung an allen Stellen, an denen aus der Antwort eine Handlung folgt.
Was Geschäftsführer daraus mitnehmen
Halluzinationen sind kein Grund, auf KI zu verzichten, aber ein Grund, sie nicht ungeprüft entscheiden zu lassen. Eine Lösung, die Quellen nennt und bei Lücken schweigt, ist im Alltag verlässlicher als jeder Mitarbeiter, der aus dem Gedächtnis antwortet. Eine Lösung ohne diese Sicherungen ist ein Risiko, egal wie gut die Vorführung aussah.
Nächster Schritt
Welcher Prozess kostet Sie die meiste Zeit?
Erzählen Sie es in 30 Minuten. Sie bekommen eine ehrliche Einschätzung, ob KI dort hilft und was der erste Schritt wäre.