Was das in der Praxis bedeutet
Ein KI-Modell — typischerweise ein LLM wie ChatGPT oder Claude — gibt Ihnen eine Antwort, die überzeugt klingt und wie eine Tatsache aussieht, aber falsch oder vollständig erfunden ist. Die bekanntesten Beispiele: erfundene Quellen, Gesetze, die es nicht gibt, ausgedachte Zahlen.
Der Grund ist technischer Natur. Ein LLM kennt die Wahrheit nicht. Es sagt die wahrscheinlichste Fortsetzung des Textes aus seinen Trainingsdaten voraus. Wenn es unsicher ist, sagt es nicht “Das weiß ich nicht”, sondern etwas, das richtig klingt.
Warum Unternehmen das wissen sollten
- Kundenkommunikation. Ein KI-Agent im Service halluziniert einen Preis, eine Bedingung oder eine Frist, und Sie müssen dafür einstehen.
- Interne Entscheidungen. Eine Führungskraft lässt die KI recherchieren, bekommt erfundene Zahlen und entscheidet auf dieser Grundlage.
- Compliance und Recht. Die KI erzeugt eine Klausel, die es nicht gibt, und die Rechtsabteilung merkt es nicht rechtzeitig.
- Marketing und Inhalte. Die KI schreibt eine “Tatsache”, die erfunden ist, und Sie veröffentlichen sie unter dem Namen des Unternehmens.
Wie Sie sich schützen
- Fragen Sie die KI nicht nach Fakten, die Sie nicht prüfen können. KI ist eine hervorragende Hilfe für Struktur, Konzept und einen ersten Entwurf. Nicht für die Richtigkeit einer Zahl.
- Nutzen Sie RAG (Retrieval-Augmented Generation). Die KI antwortet nur aus Ihren Dokumenten, nicht aus ihren Trainingsdaten.
- Verlangen Sie Quellen. Lassen Sie die KI angeben, woher jede Tatsache stammt. Prüfen Sie mindestens jede dritte.
- Human in the Loop. Bei allem mit Folgen — Kunde, Recht, Geld — gibt ein Mensch frei, bevor es hinausgeht.
- Protokollieren Sie die Ergebnisse. Damit Sie zurückverfolgen können, woher die Halluzination kam.
Halluzinationen sind kein Grund, KI nicht zu nutzen. Sie sind ein Grund, sie richtig zu nutzen. Im Workshop zeigen wir die konkreten Prozesse, in denen Halluzinationen keine Rolle spielen, die, in denen sie gefährlich sind, und wie Sie beide auseinanderhalten.