Der Gedankenstrich: ChatGPT ist erkrankt

Der Gedankenstrich: Wie man KI-generierte Texte erkennt (und was der „Habsburg-KI-Effekt“ damit zu tun hat).

Ich werde oft gefragt, wie man erkennen kann, ob ein Text von einer künstlichen Intelligenz, konkret von ChatGPT, verfasst wurde. Diese Frage stellen mir Lehrerinnen und Lehrer, Journalist:innen, Eltern, manchmal auch Unternehmen oder Behörden.

Und die Antwort ist meist verblüffend einfach:
Man muss gar keine komplexe Software einsetzen, ein Blick auf die Zeichensetzung genügt oft schon.

Denn: ChatGPT hat ein auffälliges Stilproblem.
Oder wie ich es gern nenne: eine kleine, aber hartnäckige Krankheit.

Diagnose: Gedankenstrichitis

ChatGPT liebt den Gedankenstrich.
Und zwar nicht in der klassischen, wohlüberlegten Form, wie wir ihn aus elegant gesetzten Print-Texten oder literarischen Essays kennen. Sondern: exzessiv. inflationär. willkürlich.

Was eigentlich ein Stilmittel für gezielte Betonung ist, ersetzt bei ChatGPT gerne mal das Komma, oder den Punkt, oder gleich einen kompletten Satzbau.

Beispiel gefällig?

„Viele Menschen glauben, dass sie gut informiert sind – doch oft täuscht der erste Eindruck – denn hinter der Schlagzeile verbirgt sich häufig ein Narrativ – das bestimmte Meinungen gezielt verstärkt – und dabei Emotionen nutzt – statt Fakten.“

Ein Text wie dieser ist typisch für ChatGPT, flüssig, aber monoton, höflich, aber seelenlos, strukturiert, aber voller Gedankenstriche.

Über 100 Gedankenstriche? Wahrscheinlich KI

Ich bin im Netz bereits auf Texte gestoßen, die über 100 Gedankenstriche enthalten.
Und nicht etwa als Stilmittel in Prosa, sondern in Interviews, philosophischen Facebook-Postings, Blogbeiträgen oder vermeintlichen Leserbriefen. Vielleicht sogar Liebesbriefen.

Je mehr Gedankenstriche, desto höher die KI-Wahrscheinlichkeit.
Das ist natürlich keine mathematische Regel, aber ein guter Indikator.

Und jetzt wird’s wirklich spannend.

Der „Habsburg-KI-Effekt“, also wenn die KI von sich selbst lernt

Die eigentliche Ursache für diesen „Gedankenstrich-Wahnsinn“ liegt nicht nur im Design von ChatGPT, sondern auch in einem Phänomen, das inzwischen als „Habsburg-KI-Effekt“ bezeichnet wird.

Was ist das?

Der Begriff spielt auf die Inzucht in Adelsdynastien wie den Habsburgern an, und meint:
Wenn eine KI zunehmend ihre eigenen Texte als Trainingsmaterial wiederverwendet, entsteht eine Feedbackschleife.

ChatGPT wurde mit einem gigantischen Textkorpus trainiert, darunter auch unzählige Texte, die es selbst produziert und die inzwischen im Internet veröffentlicht wurden.

Das bedeutet:
ChatGPT lernt von ChatGPT.
Und übernimmt dabei nicht nur Wissen, sondern auch Fehler, Eigenheiten, stilistische Ticks.

Der Gedankenstrich ist augenscheinlich ein besonders auffälliges Beispiel dafür. Zumindest dürften wir davon ausgehen.

Warum ich vom „Habsburg-KI“ Effekt ausgehe?

Wenn man verstehen will, warum ChatGPT plötzlich inflationär viele Gedankenstriche verwendet, lohnt sich ein Blick auf ein spezielles Phänomen in der KI-Entwicklung: den sogenannten „Habsburg-KI-Effekt“.

Der Begriff ist eine Metapher, angelehnt an das historische Adelsgeschlecht der Habsburger, das durch jahrhundertelange Inzucht genetische Schwächen entwickelte. Übertragen auf künstliche Intelligenz beschreibt der Begriff ein Problem, das entsteht, wenn KI-Modelle wie ChatGPT zunehmend von ihren eigenen Texten lernen, die sie zuvor selbst produziert haben.

Denn genau das passiert gerade: ChatGPT schreibt täglich Millionen Texte. Diese werden online veröffentlicht, zitiert, weiterverarbeitet, und landen damit früher oder später wieder in den Datensätzen, mit denen die nächste Version von ChatGPT trainiert wird. Die KI „liest“ also Inhalte, die sie selbst (oder eine Vorgängerversion) geschrieben hat, ohne zu erkennen, dass es sich um ihre eigenen Produkte handelt.

Diese Rückkopplung hat Folgen. Denn sie bedeutet nicht nur, dass sich bestimmte Formulierungen und Stilmittel, wie eben der berüchtigte Gedankenstrich, immer stärker durchsetzen, sondern auch, dass sich Fehler, Vereinfachungen oder stilistische Monotonie verstärken können. Der Sprachstil verengt sich, originelle Ausdrucksformen gehen verloren, und die Texte werden, obwohl grammatikalisch korrekt, zunehmend gleichförmig, austauschbar und charakterlos.

Was ursprünglich wie ein innovativer Lernprozess wirkte, gerät damit in eine inhaltliche Inzuchtspirale: Die KI bestärkt sich selbst, repliziert ihre eigenen Eigenheiten, und produziert damit einen Sprachraum, der sich immer weiter von menschlicher Vielfalt entfernt.

Der Habsburg-KI-Effekt ist also nicht nur eine stilistische Randnotiz, sondern ein grundlegendes strukturelles Problem: Wenn eine künstliche Intelligenz vor allem sich selbst zitiert, leidet am Ende nicht nur die Qualität, sondern auch die Glaubwürdigkeit.

Das ist keine Wertung!

Die Frage ist nicht: „Darf man KI verwenden?“. Nein, bitte verwendet KI zu eurem allgemeinen Wohle, ich mache das auch.
Sondern: „Erkennen wir es noch, wenn sie es war?“ Es kann überall sein, in den Interviews mit Prominenten, Reden von Politiker:innen, Werbetexte und Bewerbungen, alle können möglicherweise alle aus der Maschine stammen, oder zumindest maschinell „veredelt“. Von mir aus, gerne. Im Zweifel sagt es aber. Und was mir viel wichtiger ist: Wenn schon KI, dann bitte gute Ergebnisse!

Zurück zum Gedankenstrich. Diese Erkenntnis bedeutet nicht, dass jede Mail mit ein oder zwei Gedankenstrichen automatisch enttarnt ist.
Aber: Wenn ein Text glatt wirkt, ohne Ecken, ohne persönliche Handschrift, dafür aber mit einer übermäßigen Dosis „–“, dann lohnt sich ein zweiter Blick.

Und ganz ehrlich: Wer im echten Leben so häufig Gedankenstriche spricht, braucht vermutlich eine eigene Sprechpause nach jedem Satz.

_________________________________________________________________________________________________

Mimikama buchen? Für Vorträge, Impulse, Workshops und Seminare HIER klicken!