Foto von Roman Synkevych auf Unsplash
Substack führt KI-Detektor ein: Claudefishing als neues Phänomen
Ist das das Aus für KI generierte Texte? Das Portal Substack hat seinen KI Detektor Pangram für die User freigeschalten. Über ihn können sie prüfen, ob ein Text selbt geschrieben ist, oder eben von einem LLM zusammengesetzt wurde. Chris Best, der CEO von Substack, hat dafür bereits einen griffigen Claim: Claudefishing. Prima Idee, denkt man erst, dann wird der ganze AI-Slob aus dem Netz gefiltert. Aber ganz so einfach ist es dann doch nicht.
Auch gute KI-Detektoren produzieren False Positives
Die Substack-Community reagiert wenig amused. Ein Nutzer schreibt: „I ran a passage from Charles Dickens through an AI detector the other day. It came back 95.43% AI-generated.” Kein Wunder, schließlich sind die LLMs mit Weltliteratur trainiert worden. Bei Dickens spielen mehrere Faktoren hinein, die auch für andere Autoren gelten. Literarische Texte sind oft so gut ausgearbeitet, dass sie weniger zufällig wirken.
Sam Illingworth, Professor für Critical AI Literacy an der Edinburgh Napier University, ließ seine Doktorarbeit aus dem Jahr 2010 durch einen Detektor laufen. Auf LinkedIn veröffentlichte er das Ergebnis: „I ran my PhD thesis through an AI detector. It told me 70% of it was written by AI.” Mit dem Score wurde ihm auch ein Angebot geschickt, man könne seinen Text durch einen AI Humanizer laufen lassen, damit er wie von einem Menschen geschrieben klinge. Gegen Bezahlung, versteht sich. Die Firma wollte also nicht nur seine Daten abgreifen und mit ihnen ihr Programm trainieren, sondern auch noch von seiner potenziellen Notlage profitieren.
Das ist kein Einzelfall, wie auch diese Studie zeigt. Denn im schulischen und akademischen Bereich ist es längst Praxis, dass Arbeiten durch Detektor-Tools nach ihrem KI-Anteil beurteilen, um so KI-Texten auf die Spur zu kommen. In Dänemark sollen Oberstufenschüler ihre schriftlichen Arbeit künftig mündlich verteidigen, schreibt Spielgel Online.
Detektoren suchen nach Ähnlichkeiten, die KI-typisch sind
Wichtig für die Einordnung, wenn ein Detektor benutzt wird: Er beantwortet nicht die Frage: „Wurde dieser Text tatsächlich von einer KI geschrieben?“ Er drückt eher aus, wie ähnlich der Text den Texten ist, die das Modell als KI-typisch gelernt hat.
Warum stufen Detektoren selbst geschriebene Texte als KI-generiert ein?
Ein AI-Detektor beschäftigt sich nicht mit dem Text, er bewerten lediglich statistische Muster, die in den Trainingsdaten häufig mit KI-Texten verbunden waren. Dafür wird u. a. analysiert, wie vorhersehbar die Wortwahl ist,wie regelmäßig Satzlängen und Satzstrukturen sind, ob die Sätze generisch sind oder ob bestimmte Formulierungen und Übergänge häufig vorkommen.
Technisch wird diese Vorhersagbarkeit mit Perplexität beschrieben. Sie misst, wie wahrscheinlich ein Sprachmodell die einzelnen Wörter oder Token im jeweiligen Kontext einschätzt: Eine niedrige Perplexität bedeutet, dass der Text für das Modell relativ erwartbar ist, eine hohe Perplexität, dass er stärker von seinen Erwartungen abweicht.
Dabei handelt es sich aber nur um die statistische Vorhersagbarkeit eines Textes. Auch menschliche Texte können eine niedrige Perplexität aufweisen (wissenschaftliche Arbeiten, formelhafte Texte), weshalb Perplexität allein nicht als Kriterium über die Urheberschaft herangezogen werden sollte. Eine aktuelle Untersuchung kommt entsprechend zu dem Schluss, dass ein fester Perplexitätsgrenzwert für die Erkennung von KI-Texten nicht ausreicht.
Warum werden sogar literatische Texte als KI-generiert eingestuft?
Literarische Prosa wie im Beispiel oben mit Charles Dickens folgen oft anderen stilistischen Mustern als die Texte, auf denen viele KI-Detektoren trainiert wurden. Die Trainingsinhalte für Detektoren stammen oft von Blogs, Nachrichtenartikeln, Forenbeiträgen oder Social-Media-Texten. Das Modell lernt also: So sieht typisch menschliche Sprache heute aus. Klassische Literatur ist darin unterrepräsentiert.
Ein Detektor wie GPTZero oder Pangram wandelt einen Text in numerischer Merkmale um. Dazu gehören zum Beispiel Statistiken zur Satzlänge (durchschnittliche Satzlänge, Varianz der Satzlänge, Verteilung der Längen über den Text), die lexikalische Vielfalt (wie viele unterschiedliche Wörter im Verhältnis zur Gesamtzahl der Wörter vorkommen; wie viele Wörter nur einmal auftreten), die syntaktische Muster (wie komplex die Satzstrukturen sind, wie viele Nebensätze pro Satz vorkommen) und stilistische Signale (Interpunktion, rhetorischen Figuren, Wiederholungen, Parallelismen). Diese Merkmale werden in ein Klassifikationsmodell überführt, das aus den Trainingsdaten gelernt hat, welche Merkmale typisch für menschliches Schreiben sind und welche für KI.
Das Paradox: Stilistische Stärke wird zum Detektionsrisiko
Literarische Texte folgen meist anderen stilistischen Konventionen als die Texte, auf denen viele Detektoren trainiert wurden. Ein Detektor misst Merkmale wie Satzlängenvarianz (Burstiness), Vokabularvielfalt und syntaktische Regularität und vergleicht sie mit seinem gelernten Bild. Wenn ein Autor über längere Passagen hinweg in einem sehr beständigen, rhythmischen Stil schreibt, kann der Text in diesen Merkmalsräumen näher an der KI-Clustermitte liegen als an der menschlichen. Das ist letztlich ein Bias in den Trainingsdaten des Detektors.
Wie kann man KI-Text beim Lesen erkennen?
Es ist also kompliziert. Noch funktiioniert es auch, beim Lesen und Schreiben auf Auffälligkeiten zu achten, die Wikipedia im Beitrag „Signs of AI writing” aufführt und regelmäßig aktualisiert. Gängig ist:
-
Gegenüberstellung von Dingen oder Sachverhalten;
-
alles ist bedeutungsschwanger und so wird aus einem „inventor of the first train-coupling device” vielleicht „a revolutionary titan of industry”;
-
Bilder, die nicht funktionieren;
-
es wird dick aufgetragen, denn alles ist „sinnbildlich für”, „steht für”, „steht für”…;
-
lange Gedankenstriche;
-
Dreiklang von Begriffen;
-
das Fazit am Ende des Textes.
Diese Hang zum statistischen Mittel macht die Texte oft glatt. Dann wird Spezifisches zu „allgemeinen Aussagen, die auf viele Themen gleichermaßen zutreffen könnten”. Und das macht KI-generierte Inhalte leichter erkennbar.
EU AI Act: Wann müssen KI-Texte gekennzeichnet werden?
„Der KI Podcast” der ARD hat sich in der Folge „Woran erkenne ich einen KI Text” mit dem Thema beschäftigt. Es geht dabei auch um den EU-AI-Act und die Kennzeichnungspflicht von KI generierten Texten.
Gekennzeichnet werden müssen: Deepfakes, also KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Objekten, Orten, Entitäten oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgetreu erscheinen würden. Und KI-generierte oder manipulierte Texte, die veröffentlicht wurden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, die keiner menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und bei denen die redaktionelle Verantwortung nicht von einer juristischen oder natürlichen Person übernommen wurde.
Noch ein Podcast Tipp: Holger ruft an (246): Was bringt es, dass KI-Inhalte ab jetzt gekennzeichnet werden müssen?
Anke Kotte ist Journalistin und Expertin für Unternehmenskommunikation. Sie analysiert die Auswirkungen von KI auf Content-Erstellung und berät Unternehmen zu wirksamer Kommunikation. Mehr hier