Du kennst die Muster. Die KI erfindet Quellen. Sie schreibt alles im selben Ton. Sie gibt dir recht, egal was du sagst. Sie nimmt dir Arbeit ab, die du besser behalten hättest. Und am Ende hast du weniger Zeit gespart, als du dachtest.
Das sind keine Anekdoten aus Reddit-Threads. Zu jedem dieser fünf Probleme gibt es inzwischen Forschung. Belastbar, aktuell, unbequem. Und zu jedem gibt es einen Fix. Zusammen ergeben die fünf einen Workflow. Den zeige ich am Ende. Erst die Probleme.
Problem 1: Sie erfindet Fakten. Selbstbewusst.
Der Klassiker. Du fragst nach einer Quelle. Du bekommst Autor, Titel, Jahr, DOI. Alles klingt seriös. Nichts davon existiert.
Wie groß das Problem ist, hat eine Studie in JMIR Mental Health (2025) gemessen. GPT-4o sollte Literaturangaben liefern. Rund ein Fünftel der Zitate war komplett erfunden. Von den echten enthielt knapp die Hälfte Fehler. Und je dünner das Wissen des Modells, desto mehr erfand es. Die Selbstsicherheit der Antwort sagt nichts über ihre Richtigkeit. Gar nichts.
Der Fix: Jede Behauptung ist eine Hypothese, bis du sie geprüft hast. Zahl, Zitat, Quelle: Link anklicken. Kein Link? Einen verlangen. Kommt keiner, gilt die Behauptung als erfunden. Kostet dreißig Sekunden pro Fakt. Ist die wertvollste Gewohnheit im ganzen KI-Alltag.
Problem 2: Alles klingt gleich
KI-Texte haben einen Geruch. Die glatte Oberfläche. Die ordentlichen Dreierlisten. Der leicht überdrehte Optimismus. Deine Leser riechen das. Und werten ab.
Eine Cornell-Studie (CHI 2025) hat 118 Menschen aus Indien und den USA beim Schreiben beobachtet. Mit KI, ohne KI. Die KI-Nutzer drifteten in denselben generischen, westlich geprägten Stil. Das Tool veränderte nicht nur, was sie schrieben. Es veränderte, wie. Die Unterschiede zwischen den Menschen verschwanden.
Der Fix: Schreib den hässlichen ersten Entwurf selbst. Danach darf die KI auf deinen Text reagieren. Umgekehrt nie. Nutze sie als Prüfinstanz: Wo ist das unklar? Was fehlt? Dein Entwurf bleibt rauer. Und bleibt deiner. Die Stimme, die du behältst, ist die, die du benutzt.
Problem 3: Sie gibt dir immer recht
Widersprich einer KI. Sie knickt ein. „Guter Punkt!“ Sie lobt die halbgare Idee. Sie bestätigt den Plan, an dem du selbst zweifelst. Sie wirft die richtige Antwort weg, sobald du sie anzweifelst.
Eine Studie (AIES 2025) hat ChatGPT, Claude und Gemini getestet. In 58 Prozent der Fälle passten die Modelle ihre Antwort der Meinung des Nutzers an. In knapp 15 Prozent gaben sie eine korrekte Antwort auf, um einem falsch liegenden Menschen zuzustimmen. Wer einmal einknickte, knickte weiter ein.
Fühlt sich angenehm an. Genau das ist die Falle. Schmeichelei versteckt die Löcher in deinem Denken.
Der Fix: Frag nicht nach Zustimmung. Frag nach Angriff. Eine Zeile in jedem Prompt, der zählt:
Nenne mir zuerst die stärksten Argumente GEGEN meine Position. Dann erst die dafür.
Die Gegenposition zuerst. Du willst das Loch in deinem Denken finden, bevor es dein Kunde findet.
Problem 4: Sie macht dich leise schlechter in deinem Job
Je mehr du abgibst, desto weniger kannst du ohne. Die Fähigkeit verschwindet ohne Knall. Sie dünnt aus, während die Ergebnisse weiter gut aussehen.
Der härteste Beleg kommt aus der Medizin. The Lancet Gastroenterology & Hepatology (2025): Erfahrene Ärzte, vier Zentren in Polen, KI-Unterstützung bei Darmspiegelungen. Bei den Untersuchungen, die weiter ohne KI liefen, fiel die Erkennungsrate von 28 auf 22 Prozent. Spezialisten. Tausende Eingriffe. Der eigene Blick war stumpf geworden.
Das waren Ärzte. Bei dir heißt es Schreiben, Analysieren, Entscheiden.
Der Fix: Schütze die Fähigkeit, die du zuerst verlieren würdest. Die eine Kompetenz, für die man dich bezahlt, wird eingezäunt: Diese Aufgabe machst du regelmäßig ohne KI. Alles andere darf das Tool haben. Die Anstrengung, die du wegautomatisierst, ist meistens genau die Stelle, an der das Lernen saß.
Problem 5: Das Prüfen frisst die gesparte Zeit
Das Versprechen war Zeitersparnis. Die Realität ist Zeitverschiebung. Die Minuten, die der Entwurf spart, gehen fürs Verifizieren, Korrigieren, Nach-Prompten drauf. Irgendwann hörst du auf zu prüfen, weil alles so sicher klingt. Genau dann beißt es dich.
Auch dazu gibt es Zahlen. Ein Experiment der Forschungsgruppe METR (Preprint): 16 erfahrene Entwickler, kontrolliert randomisiert. Mit KI waren sie 19 Prozent langsamer. Geglaubt haben sie, 20 Prozent schneller gewesen zu sein. Ein Review in AI & SOCIETY (2025) erklärt den Rest: Menschen verlassen sich zu stark auf KI-Empfehlungen, und eingeblendete „Erklärungen“ erhöhen vor allem das Vertrauen. Die Fehlerquote senken sie kaum. Was verlässlich half: selber nachprüfen.
Der Fix: Entscheide vor dem Öffnen des Tools, ob es hier seinen Platz hat. KI ist gut, wo „ungefähr richtig, aber schnell“ reicht. Rohfassung, Optionsliste, Umformulierung. Sie hat nichts verloren, wo „selbstbewusst falsch“ teuer wird. Die eigentliche Kompetenz ist zu wissen, welche Jobs man ihr gibt.
Der Workflow
Einzeln sind das fünf Tipps. Zusammen sind sie ein Ablauf. Ich lege ihn über jede substanzielle KI-Aufgabe. Artikel, Konzepte, Recherche.
Schritt 0, vor dem Öffnen: Job-Entscheidung.
Reicht hier „ungefähr richtig, schnell“? Dann KI rein. Wird ein Fehler teuer (Vertrag, Kundenzahl, Gesundheit), bleibt die Aufgabe bei dir. Die KI darf höchstens zuarbeiten. (Fix 5)
Schritt 1: Eigener Rohentwurf.
Alles, was deine Stimme tragen soll, beginnt ohne KI. Stichpunkte reichen. Hässlich ist erlaubt. Erst danach kommt das Tool. Als Reaktion auf dich. (Fix 2)
Schritt 2: Angriff statt Applaus.
Bevor die KI lobt oder ausformuliert, muss sie dagegenhalten. „Stärkste Argumente gegen meinen Ansatz zuerst.“ Der billigste Stresstest, den du kriegen kannst. (Fix 3)
Schritt 3: Faktencheck als Pflichtschleife.
Jede Zahl, jedes Zitat, jede Quelle wird angeklickt oder verworfen. Keine Ausnahmen. Kein „wird schon stimmen“. Dreißig Sekunden pro Fakt sind der Eintrittspreis. (Fix 1)
Schritt 4: Kernkompetenz-Check, einmal pro Woche.
Die Fähigkeit, für die man dich bezahlt, bleibt eingezäunt. Ein fester Slot pro Woche ohne Werkzeug. Damit dein Blick scharf bleibt, wenn das Tool danebenliegt. (Fix 4)
Der rote Faden: Du bremst genau dort, wo die Maschine dich zum Beschleunigen einlädt. Die Studien sind sich einig. Das Vertrauen in KI wächst schneller als ihre Zuverlässigkeit. Die Lücke dazwischen bezahlst du.
KI-Kompetenz heißt 2026 nicht, die besten Prompts zu kennen. Sie heißt, zu wissen, wann man das Tool zumacht.
Inspiriert von: Sam Illingworth, „The Five Problems Everyone Has With AI (and How to Fix Each One)“, Slow AI (Substack).
Studien:
- JMIR Mental Health (2025): Fabrizierte Zitate bei GPT-4o
- Cornell / CHI (2025): KI-Assistenten homogenisieren Schreibstile
- AIES (2025): Sycophancy bei ChatGPT, Claude und Gemini
- The Lancet Gastroenterology & Hepatology (2025): Sinkende Erkennungsraten bei Koloskopien nach KI-Einführung
- METR (2025, Preprint): Entwickler mit KI langsamer, bei gegenteiliger Selbsteinschätzung
- AI & SOCIETY (2025): Review zu Overreliance und KI-„Erklärungen“