Alexandra Stark, KI-Verantwortliche bei CH Media, erklärte im Webinar der Edito Academy, woher Chatbots ihr Wissen beziehen und wie Journalistinnen und Journalisten dafür sorgen können, dass ein Chatbot das Richtige weiss. Ihr Ausgangspunkt war eine Beobachtung, die jede Redaktion kennt: Chatbots antworten schnell und überzeugend, ihre Antworten machen einen präzisen Eindruck. Aber woher stammt dieses Wissen eigentlich? Alexandra Starks Antwort: Ein Sprachmodell ist eine Vorhersagemaschine. Es ist darauf trainiert, die wahrscheinlichste Antwort zu geben, nicht die richtige. Und weil die Antwort wahrscheinlich ist, klingt sie immer plausibel. Plausibel ist aber nicht dasselbe wie richtig.
Alexandra Stark führte zunächst durch die Grundlagen. Ein Chatbot ist ein Sprachmodell, mit dem man chatten kann; das Modell analysiert jedes Wort in Beziehung zu allen anderen Wörtern, die es beim Training gesehen hat, und sagt daraus das nächste Element voraus. Deshalb «weiss» ein Sprachmodell, dass Bananen gelb sind: nicht, weil es je eine Banane gesehen hätte, sondern weil das Muster in den Trainingsdaten steckt.
Dieses Wissen hat drei Schwächen. Es kommt ohne Quellenangabe, es ist nicht umfassend, und es hat ein Ablaufdatum, den «Knowledge Cutoff». Alexandra Stark verglich ein Sprachmodell mit einem, der am Stammtisch sitzt und im Brustton der Überzeugung Dinge von sich gibt, die er nicht belegen kann. Ein Sprachmodell kann weder denken noch suchen noch auf Daten zurückgreifen. Für aktuelle oder fehlende Informationen greifen Chatbots deshalb auf eine Websuche zurück (Retrieval Augmented Generation).
Doch auch die Suche hat Grenzen: Artikel hinter der Paywall, Inhalte hinter einem Login, Datenbanken und Archive bleiben den Tools verschlossen. Gerade im Lokalen fehlen im Netz zudem oft die Informationen. Deshalb steigt da die Gefahr von Halluzinationen. Alexandra Starks Merksatz: Chatbots sind keine zuverlässigen Suchmaschinen. Die erste journalistische Entscheidung lautet deshalb, ob die beste Quelle überhaupt im Internet zu finden ist, oder ob Telefon, Archiv oder ein direkter Aufruf der Quelle die bessere Wahl sind.
Den Kern des Webinars bildete die Frage, wie man einem Chatbot das Wissen mitgibt, das er braucht. Wissen aus mitgegebenen Dokumenten oder direkt im Prompt ist steuerbar und nachvollziehbar, anders als das Wissen aus dem Training oder aus der Websuche. Aber mehr ist nicht besser. Stark warnte vor «Context rot»: Je mehr Material im Kontextfenster liegt, desto schlechter werden die Antworten, und ein grösseres Kontextfenster löst das Problem nicht.
Gefragt sind deshalb «saubere» Daten, also nur die Teile eines Dokuments, die für die konkrete Aufgabe nötig sind: einzelne Beiträge aus einem Lokalblatt statt der ganzen Ausgabe, nur die relevanten Zeilen und Spalten einer Tabelle. Denn ein Chatbot arbeitet mit Wahrscheinlichkeiten, und jede zusätzliche Information kann das Resultat beeinflussen.
Ein wichtiger Aspekt ist dabei die Maschinenlesbarkeit: Ein Mensch nimmt ein Dokument als Ganzes wahr, mit Layout, Farben und Struktur; ein Chatbot zerlegt es in einzelne Textstücke: «Chunks». Multimodale Modelle können Bilder und komplexe PDFs zwar theoretisch verarbeiten, praktisch aber nicht zuverlässig. Starks Prioritätenliste: Erstens die Information als Text, noch besser als Markdown, direkt ins Prompt-Feld kopieren.
Zweitens ein möglichst sauberes File anhängen und den Bot sicherheitshalber zuerst fragen, was er darin erkennt. Zum Extrahieren von Text aus Files eignen sich der Chatbot selbst, OCR-Werkzeuge wie lens.google.com oder auf dem Mac die App CleanShot X. Worauf man sich nicht verlassen darf: dass ein Chatbot über einen Link den Inhalt einer Webseite vollständig lesen kann. Für grössere Datenmengen empfahl Stark Arbeitsumgebungen wie ChatGPT-Projekte oder Googles Gemini Notebook, mit dem Hinweis, dass auch dort das Kontextfenster begrenzt bleibt.
In der Diskussion ging es um die Erkennbarkeit von Halluzinationen, um die Frage, ob ein Chatbot zwischen internem Wissen und externer Recherche unterscheiden kann, und um Spracheingabe, die zwar mehr Kontext liefert, aber Starks Empfehlung zur Kompaktheit widerspricht. Matthias Zehnder, Leiter der Edito Academy, ergänzte die technische Seite: Sprachmodelle beruhen auf der Vektorisierung von Sprache und funktionieren deshalb nicht als Rechenmaschinen; wer sie rechnen lässt, bekommt wahrscheinliche statt richtige Zahlen.
Einig war sich die Runde in der Einordnung: KI-Werkzeuge steigern die Effizienz im Redaktionsprozess, erreichen aber oft nicht die nötige Qualität, vor allem dann, wenn Inhalte von Personen ohne journalistische Ausbildung bearbeitet werden. Die Verantwortung für die Qualität lässt sich nicht an ein Werkzeug delegieren. Verifikation durch Menschen bleibt der Kern journalistischer Sorgfalt, und genau darin liegt die Rolle der Medien gegenüber KI-generierten Inhalten. Das Handout von Alexandra Stark steht auf feedback.edito.ch zur Verfügung.
Learnings
Plausibel ist nicht richtig: Ein Sprachmodell ist darauf trainiert, die wahrscheinlichste Antwort zu geben, nicht die richtige. Weil die Antwort wahrscheinlich ist, klingt sie immer überzeugend. Genau das macht sie gefährlich.
Ein Chatbot weiss nur, was in den Daten ist: Das Wissen im Modell stammt aus den Trainingsdaten, kommt ohne Quellenangabe und hat mit dem «Knowledge Cutoff» ein Ablaufdatum. Umgekehrt heisst ein Stichtag nicht, dass das Modell alles weiss, was bis dahin bekannt war. Die Frage lautet immer: Ist das, was mir wichtig ist, überhaupt drin?
Chatbots sind keine zuverlässigen Suchmaschinen: Die Websuche ergänzt das Trainingswissen, ersetzt aber keine Recherche. Inhalte hinter Paywalls und Logins, Datenbanken und Archive bleiben unerreichbar, und wie die Fundstellen gewichtet werden, ist nicht transparent. Deep-Search- und Thinking-Modi verbessern die Resultate, heben die Grenzen aber nicht auf.
Im Lokalen halluziniert die Maschine am liebsten: Wo im Netz wenig steht, füllt das Modell die Lücken mit Wahrscheinlichem. Gerade bei Gemeinde- und Regionalthemen ist deshalb besondere Vorsicht geboten. Erst entscheiden, ob die beste Quelle im Internet liegt, dann das Werkzeug wählen: Suchmaschine, Chatbot, Telefon oder Archiv.
Gib dem Chatbot das Wissen mit: Wenn es auf Verlässlichkeit ankommt, ist die beste Quelle diejenige, die man selbst auswählt und bereitstellt. Wissen im Prompt oder in angehängten Dokumenten ist steuerbar und nachvollziehbar, Wissen aus Training und Websuche nicht.
Weniger Kontext, dafür der richtige: Ein grösseres Kontextfenster ist keine Lösung, sondern erzeugt «Context rot». Nur mitgeben, was für die aktuelle Aufgabe nötig ist; zentrale Regeln und Fakten in einer separaten Datei festhalten; bei langen Chats das Wichtige zusammenfassen und in einem neuen Chat weitermachen. Wenn die Antworten schlechter werden: neuer Chat.
Saubere Daten sind isolierte Daten: Einzelne Beiträge statt der ganzen Zeitung, nur die benötigten Zeilen und Spalten einer Tabelle, einzelne Seiten aus einem File separat abgespeichert. Jede überflüssige Information kann das Resultat verschieben, weil der Chatbot mit Wahrscheinlichkeiten arbeitet.
Text schlägt Screenshot: Ein Chatbot liest kein Layout, er verarbeitet Textstücke. Multimodalität funktioniert in der Theorie, in der Praxis unzuverlässig. Prio 1 ist deshalb Text oder Markdown direkt im Prompt-Feld, Prio 2 ein sauberes File, das man vorher vom Bot beschreiben lässt. Text extrahieren lässt sich mit dem Chatbot selbst, mit OCR wie lens.google.com oder mit CleanShot X.
Links sind keine Quellen: Man darf sich nicht darauf verlassen, dass ein Chatbot über einen Link den Inhalt einer Webseite vollständig und korrekt liest. Wer sicher gehen will, kopiert den Text hinein.
Dem Chatbot Grenzen setzen: Ein Zusatz im Prompt wie «Stütze dich ausschliesslich auf die Informationen, die ich dir eingegeben oder angehängt habe, und nutze keine zusätzliche Quelle» reduziert das Vermischen von eigenem Material und Modellwissen. Und danach gilt wie immer: prüfen, ob die Antwort tatsächlich durch die eigenen Quellen gedeckt ist.
Sprachmodelle können nicht rechnen: Sie verarbeiten Sprache als Vektoren und liefern auch bei Zahlen die wahrscheinlichste Fortsetzung, nicht das Resultat einer Rechnung. Für Berechnungen braucht es andere Werkzeuge oder eine Kontrolle von Hand.
Verantwortung bleibt beim Menschen: KI-Werkzeuge machen Redaktionen effizienter, aber nicht automatisch besser. Die Qualität eines Beitrags lässt sich nicht an ein Werkzeug delegieren. Menschliche Verifikation ist keine Zusatzschlaufe, sondern der Kern der journalistischen Arbeit, und sie ist es, was Medien von KI-generierten Inhalten unterscheidet.
Referentin: Alexandra Stark
Datum: Dienstag, 15. September 2026
Werbung
