KI-Ergebnisse prüfen: Woran Sie erfundene Fakten erkennen
Erfundene Zahlen, ausgedachte Paragrafen, Quellen, die es nicht gibt: Woran Sie das erkennen, bevor es in Ihrem Namen nach außen geht.
Sprachmodelle erzeugen wahrscheinliche Fortsetzungen von Text. Wenn ihnen ein Detail fehlt, hören sie deshalb nicht auf — sie füllen die Lücke mit etwas, das plausibel klingt.
Das ist die wichtigste Eigenschaft, die man verstehen muss, bevor man diese Werkzeuge beruflich einsetzt. Und es ist beherrschbar, wenn man weiß, wo man hinschaut.
Wo Erfindungen typischerweise auftauchen
Nicht überall gleich häufig. Es gibt Stellen, an denen die Wahrscheinlichkeit deutlich steigt:
- Konkrete Zahlen — Prozentsätze, Beträge, Jahreszahlen, Studienergebnisse
- Paragrafen und Aktenzeichen — die Form stimmt fast immer, der Inhalt oft nicht
- Quellenangaben und Literaturverweise — besonders anfällig, weil die Form leicht zu erzeugen ist
- Namen von Personen, Produkten oder Normen, die es so ähnlich gibt
- Zeitlich jüngste Ereignisse, die nach dem Wissensstand des Modells liegen
Fünf Prüfschritte für den Berufsalltag
Vollständige Faktenprüfung ist im Alltag nicht leistbar. Diese fünf Schritte fangen die meisten Fehler in wenigen Minuten ab:
- Jede Zahl, die nach außen geht, gegen die Originalquelle prüfen — nicht gegen eine zweite KI-Antwort.
- Jeden genannten Paragrafen im Gesetzestext nachschlagen. Das dauert dreißig Sekunden und ist der häufigste Fehlerfall.
- Jede Quellenangabe anklicken. Existiert die Seite nicht, existiert vermutlich auch die Aussage nicht.
- Das Modell nach seiner Unsicherheit fragen: Welche dieser Angaben hast du nicht sicher belegt? Die Antwort ist erstaunlich oft ehrlich.
- Bei fachlichen Aussagen prüfen, ob sie zu Ihrem eigenen Erfahrungswissen passen. Wenn etwas seltsam klingt, ist es meist auch seltsam.
Was den Auftrag von vornherein sicherer macht
Vieles lässt sich vermeiden, bevor es entsteht. Wer im Auftrag ausdrücklich sagt, dass nichts erfunden werden darf, senkt die Fehlerquote spürbar.
Noch wirksamer ist es, dem Modell die Fakten selbst mitzugeben: Statt nach Zahlen zu fragen, fügen Sie die Zahlen aus Ihrer eigenen Quelle in den Auftrag ein und lassen nur den Text daraus formulieren. Dann kann nichts erfunden werden, weil nichts fehlt.
Wo die Verantwortung liegt
Rechtlich und beruflich ändert sich durch den Einsatz eines Werkzeugs nichts: Verantwortlich für ein Angebot, ein Zeugnis oder eine Auskunft ist die Person, die es unterschreibt.
Das ist keine Belastung, sondern eine Klarstellung, die Betriebe entlastet. Wer die Prüfung als festen Arbeitsschritt einplant, kann die Werkzeuge unbesorgt einsetzen — wer sie überspringt, hat ein Problem, das nichts mit KI zu tun hat.
Kurz gesagt
Erfundene Fakten sind kein Defekt, sondern eine bekannte Eigenschaft. Wer weiß, wo sie auftreten, und fünf Prüfschritte zur Gewohnheit macht, kann diese Werkzeuge im Beruf verlässlich einsetzen.
Stand: 13. August 2026. Über die Förderung entscheidet die zuständige Stelle im Einzelfall; ein Rechtsanspruch besteht nicht. Dieser Beitrag ersetzt keine Rechtsberatung.