Über KI schreiben – und sie in der Redaktion einführen.

Hexenjagd auf KI-Autoren

In den letzten Wochen hat sich diese Identitätskrise in einer Diskussion entladen, die zuweilen einer Hexenjagd gleichkam: Autoren renommierter Medien und Politiker wurden mit dem Vorwurf konfrontiert, sie hätten ihre Meinungsbeiträge mittels Chatbots wie ChatGPT oder Gemini verfasst. Bemerkenswert ist, was der Anfang Monat in Kraft getretene «AI Act» der EU dazu sagt: Er verlangt eine Kennzeichnung KI-generierter Texte – aber nur, wenn niemand sie redaktionell verantwortet. Nicht die Maschine ist das Kriterium, sondern der Mensch, der geradesteht. Mitte dieser Woche kündigte Anthropic hingegen an, Texte aus seinem Sprachmodell Claude künftig mit einer unsichtbaren Markierung zu versehen. Die zeigt jedoch nur, dass die Maschine beteiligt war. Ob jemand den Text bloss glätten liess oder das Denken gleich ganz delegiert hat, unterscheidet sie nicht.

Die Debatte hatte einen starken moralischen Anstrich: Wer KI zum Schreiben nutzt, verkauft seine Leserschaft für dumm. Oder: Gut kann ein Text nur sein, wenn er von A bis Z von einem Menschen verfasst worden ist. Ich kenne diesen Reflex. Sobald ich merke, dass in einem Text viele KI-typische Formulierungen vorkommen, verliere ich ein Stück Achtung vor dem Autor oder der Autorin. Ich unterstelle, dass die Person die gedankliche Arbeit, die hinter dem Text steckt, nicht selbst geleistet, sondern sie der Maschine delegiert hat. Aber so ist das eben mit Reflexen: Hin und wieder feuern sie vorschnell oder in die falsche Richtung. Ich muss mich dann daran erinnern, einen Gedanken an seinem Gehalt und weniger an seiner Form zu messen. Nur: Das wird auch das in Aussicht gestellte Wasserzeichen von Claude nicht leisten können.

Die Hausregeln

Natürlich kann man KI-Artikel schreiben lassen. Nur ist das Resultat bestenfalls Mittelmass. Denn genau darauf sind die Sprachmodelle trainiert: Sie liefern auf den Durchschnitt getrimmte Sprache, ohne Reibung, ohne Signatur und oft auch ohne echten Inhalt – und das ist es, was KI-Texte so schal macht. Solchen Journalismus wollen wir Ihnen, liebe Leserinnen und Leser, nicht zumuten. Deshalb der Passus in unseren Hausregeln, dass KI nicht den massgeblichen Anteil eines Artikels generieren darf.

Interessant wird es jedoch, wenn wir beim Einsatz von KI nicht nach dem Wieviel, sondern mehr nach dem Wofür fragen. Betrachten wir die für den Pulitzer-Preis nominierten Arbeiten der Kolleginnen und Kollegen von New York Times, Washington Post und so weiter, so wird bald klar: Künstliche Intelligenz hat ihren Platz im Journalismus. Nämlich beim Durchforsten grosser Dokumentensammlungen, beim Transkribieren von Audio und Video, beim Entschlüsseln kryptischer Texte.

Übermenschlicher Aufwand

Ein Beispiel: Nach einer Flutkatastrophe in Texas liess das «Wall Street Journal» sämtliche öffentlichen Sitzungsprotokolle des Bezirks automatisiert einsammeln und von einem Sprachmodell zusammenfassen, um Spuren früherer Überschwemmungen zu finden. Die Maschine sortierte nur den Papierberg, gelesen haben ihn die Journalisten selbst. Die Artikel sind offenbar preiswürdig.

KI dient hier nicht als Ersatz fürs Schreiben oder Sprechen und schon gar nicht fürs Denken, sondern hilft bei Aufgaben, die ansonsten gar nicht oder nur mit einem übermenschlichen Aufwand zu meistern wären. Wer KI nur dazu nutzt, schneller «Content» zu generieren, bleibt in der ökonomischen Zwangsjacke von Kosten und Effizienz stecken – und vernachlässigt das, was Journalismus ausmacht: Urteil, Orientierung, Verantwortung.

Das meiste davon ist natürlich Buchwert. Dieser widerspiegelt weniger den aktuellen Wert eines Unternehmens als seinen potenziell zukünftigen. Anders gesagt: Wer SpaceX-Aktien kauft, beteiligt sich nicht nur am heutigen Wert des Unternehmens, sondern wettet auf den morgigen.

Eine sichere Wette?

Das Versprechen einer gewinnbringenden Zukunft ist es, das Riesensummen in die künstliche Intelligenz lenkt. SpaceX hat nicht nur Satelliten im All, sondern auch einen Fuss in KI. Dort konkurriert Musk mit Anthropic und OpenAI, zwei US-Firmen, die ebenfalls noch in diesem Jahr an die Börse möchten. Es ist zu erwarten, dass auch diese Börsengänge ein paar neue Milliardäre machen werden. Denn KI, das sagt ja jeder, ist die Zukunft. Eine sichere Wette also. Oder?

Aktuell gibt es keine namhafte KI-Firma, die Geld verdient. Stattdessen verbrennen sie etwa doppelt bis dreimal so viel, wie sie einnehmen. Die Strategie scheint zu sein, die Welt mit billiger KI zu fluten, bis sie fürs System unentbehrlich ist – um dann die Preise zu erhöhen.

Dazu passt, dass die US-Regierung am Wochenende den Zugang zum neuesten Anthropic-Modell kurzerhand für Nichtamerikaner verboten hat. Zu gut sei es, zu gefährlich auch – was natürlich den Mythos um das Modell (das zufälligerweise «Mythos» heisst) noch verstärkte. Und damit auch den Glauben daran, dass die Firma ein bahnbrechend gutes Produkt im Regal hat. Die Börse wird's danken – für die digitale Souveränität Europas wiederum sollte das Handeln der Trump-Administration ein deutliches Warnzeichen sein.

KI in der Bündner Wirtschaft

Bei allen Zukunftsfantasien: Wie schlägt sich die KI in Wirklichkeit? Das wollte der Dachverband der Bündner Wirtschaft wissen und befragte im Frühling 324 Bündner Betriebe. 83 Prozent nutzen oder testen KI bereits. Jedoch: 45 Prozent spüren heute keinen messbaren Effekt. Zwei Prozent sparen dank KI Zeit und Personal.

Zwei Prozent ist empörend wenig für eine Technologie, die verspricht, die Menschheit in einen Zustand arbeitslosen Überflusses zu versetzen. Die Welle kommt erst, sagen jene, die an die grosse KI-Revolution glauben. Ich bin gespalten: Einerseits ja, das kann gut sein. Andererseits ist das eben auch nur ein Versprechen, mit dem sich Aktien und KI-Kurse verkaufen lassen.

Die Bündner Wirtschaft ist ebenfalls gespalten. Drei Viertel der Befragten erwarten, dass KI ihre Effizienz steigern wird. 62 Prozent sagen zugleich, dass die Technologie überbewertet wird. Das klingt nur auf den ersten Blick widersprüchlich. Man traut der Sache nicht ganz, verschliesst sich ihr aber auch nicht. Scheint mir vernünftig.

Das Sperrige und Schöne fällt weg

Nur ist diese wundersame Technologie zugleich der Fluch der KI-verbesserten Posts und Blogs. Denn in den Trainingsdaten der grossen Modelle sind jene Unmengen von Text enthalten, die das Internet ausmachen. Mittlerweile besteht dieses wiederum aus rund 50 Prozent KI-generierten Inhalten. Womit dann die nächste Modellgeneration gefüttert wird. Und so weiter. Bis: die KI sich selbst aufgefressen hat.

Forschende nennen das «Model Collapse». Wenn Modelle mit KI-generierten Inhalten trainiert werden, verschwinden mit der Zeit die Ausreisser, das Ungewöhnliche, das Sperrige – kurz: alles, was Sprache lebendig macht. Was bleibt, ist der Durchschnitt des Durchschnitts. Eine Sprache, die niemanden mehr überrascht. So zumindest die These einer Studie der Universität Oxford aus dem Jahr 2023. Mein Gefühl sagt mir, die These hat sich bewahrheitet.

Plötzlich überall Kobolde

Die volle Kontrolle darüber, was beim Training der KI-Modelle genau passiert, hat übrigens niemand. Ein absurdes Beispiel dafür lieferte kürzlich die Firma OpenAI, die hinter ChatGPT steht. Ihren Nutzerinnen und Nutzern fiel nämlich auf, dass sich ihre Modelle eine seltsame Angewohnheit zugelegt hatten: Sie verglichen plötzlich alles mit Goblins und Kobolden. Der Grund: Ein Trainingsanreiz hatte solche Metaphern belohnt. Das Modell lernte daraus, dass Fantasyfiguren gute Sprachbilder seien. Also verbreiteten sich die Goblins in den Antworten. Am Ende musste OpenAI seinem Chatbot explizit verbieten, Fabelwesen zu erwähnen.

Bei Linkedin-Posts hat leider niemand eingegriffen. Für diese haben die Modelle verinnerlicht, die Konstruktion «Das ist nicht x, das ist y» sei besonders erfolgreich – was ja stimmt. Jedoch nur in einer Welt, in der dieses Stilmittel, das Spannung aufbauen soll, nicht im Übermass verwendet wird. Sonst wird es zum Marker für KI-generierte Inhalte. Und wie wir aus der Schweizer Forschung wissen, ist kaum jemand dazu bereit, für solche Inhalte zu bezahlen – ob nun mit Geld oder mit Lesezeit. Ich zumindest scrolle schnell weiter, sobald mein KI-Detektor ausschlägt.

Deshalb mein Rat vor dem nächsten Post: Schaut eure KI-Texte nochmals durch und passt sie an. Denn gute Texte sind nicht x. Gute Texte sind y. Sonst liest sie kein Kobold.