KI-Halluzination
Eine KI-Halluzination ist eine Ausgabe eines generativen Modells, die flüssig und plausibel klingt, aber faktisch falsch, erfunden oder durch keine reale Quelle gedeckt ist. Sie entsteht, weil Sprachmodelle wahrscheinlichen Text vorhersagen, statt verifizierte Fakten abzurufen.
Warum es zählt
Halluzinationen sind das zentrale Zuverlässigkeitsproblem beim Einsatz von KI in der Wissensarbeit: Eine selbstbewusst falsche Quellenangabe, Statistik oder ein falsches Zitat kann schlimmer sein als gar keine Antwort, besonders für Beratende und Forschende, deren Arbeit auf Vertrauen beruht. Da halluzinierter Text oft autoritär wirkt, ist er ohne Abgleich mit echten Quellen schwer zu erkennen. Die Reduzierung von Halluzinationen ist der Hauptgrund, weshalb Grounding- und Abruftechniken existieren.
Wie Pith reinpasst
Pith ist um Quellenverankerung herum gebaut: Wiki und Briefings werden aus Material zusammengestellt, das du tatsächlich als Lesezeichen gespeichert hast, und Aussagen tragen Zitate zurück zur Originalquelle, sodass sie überprüfbar sind. Indem Pith jeder Antwort, auch über seinen MCP-Server, die Quelle anhängt, werden ungedeckte Aussagen leicht erkennbar, statt sich einzufügen. Für eigene Entwürfe gibt es zusätzlich die Zitat-Prüfung, die jede Aussage gegen deine gespeicherten Quellen einstuft: belegt, teilweise belegt, unbelegt oder falsch zitiert (49 ct je angefangene 10 Seiten). Pith senkt das Halluzinationsrisiko, beseitigt es aber nicht, sodass die Überprüfung anhand der zitierten Quelle weiterhin wichtig bleibt. Dieselbe Prüfung funktioniert auch für Berichte aus Deep Research in ChatGPT oder Claude — siehe Deep Research und Pith. Worauf du beim Zusammenfassen mit KI achten solltest und welche Tools es gibt, zeigt Text zusammenfassen mit KI.
Siehe auch
Zuletzt geprüft: · Lizenziert CC BY 4.0 · frei zitierbar unter Namensnennung von Pith.