Ich habe mir in den letzten Tagen den KI-Faktencheck von eYou etwas genauer angesehen. Nicht, weil ich die Idee grundsätzlich schlecht finde. Im Gegenteil: Eine Plattform, die versucht, offensichtlichen Unsinn, Desinformation, Spam oder manipulative Inhalte automatisiert einzuordnen, verfolgt zunächst einmal ein nachvollziehbares Ziel.
Gerade soziale Netzwerke haben ein echtes Problem mit Falschinformationen, Bots, Ragebait, Betrug und bewusst zugespitzten Behauptungen. Ohne technische Unterstützung ist das kaum noch sinnvoll zu moderieren. Die spannende Frage ist für mich daher nicht, ob solche Systeme existieren sollten.
Auch die Community Guidelines von eYou zeigen nachvollziehbar, warum Plattformen heute versuchen, Kontext, Manipulation, Sarkasmus oder problematische Kommunikationsmuster stärker mitzudenken. Reine Schlüsselwortfilter reichen für moderne Online-Kommunikation oft schlicht nicht mehr aus.
Die spannendere Frage lautet: Wo endet ein Faktencheck, und wo beginnt die Interpretation des Menschen hinter der Aussage?
Ein kleiner Test mit großer Wirkung
Mein Ausgangspunkt war ein bewusst einfach formulierter Beitrag:
Nimm dies, Faktencheck: UFOs sind Realität
Das ist auf den ersten Blick eine simple Aussage. Gleichzeitig ist sie aber ein gutes Beispiel für ein Problem, an dem Faktenchecks schnell ins Stolpern geraten können. Denn der Begriff „UFO“ ist mehrdeutig.
Wenn mit UFO einfach ein „unidentifiziertes Flugobjekt“ oder allgemeiner ein ungeklärtes beobachtetes Phänomen gemeint ist, dann ist die Aussage fast trivial. Solche Beobachtungen gibt es. Wenn mit UFO hingegen außerirdische Raumschiffe gemeint sind, sieht die Sache völlig anders aus. Dafür gibt es keine belastbaren öffentlichen Belege.
Ein guter Faktencheck müsste also eigentlich sagen: Die Aussage ist mehrdeutig und hängt stark davon ab, wie der Begriff „UFO“ verwendet wird.
Die Plattform kam jedoch zu dem Ergebnis, dass keine überprüfbare faktische Behauptung gefunden wurde. Das kann man formal nachvollziehen, wirkt aber im Alltag erst einmal merkwürdig. Denn natürlich enthält der Satz im normalen Sprachgebrauch eine Behauptung. Nur eben eine unscharfe.
Der interessante Teil kam danach
Wirklich spannend wurde es nicht durch das Ergebnis des Faktenchecks selbst, sondern durch die ausführlichere Begründung beziehungsweise Einordnung darunter.
Dort wurde sinngemäß nicht nur der Beitrag bewertet, sondern auch die mögliche Haltung des Nutzers interpretiert. Es ging um Sarkasmus, Spott, Frustration und darum, dass der Nutzer offenbar glaube, UFOs seien real.
Daraufhin ergänzte ich meinen ursprünglichen Beitrag um einen Screenshot des Ergebnisses und den Kommentar:
Ich finde, er hat sich herausgemogelt.
Genau an dieser Stelle wird es interessant. Denn damit analysiert das System nicht mehr nur die Aussage selbst. Es bewegt sich in Richtung einer Interpretation von:
- vermuteter Intention,
- emotionalem Kontext,
- Sarkasmus,
- persönlicher Haltung,
- und möglicher Motivation.
Das ist technisch nachvollziehbar. Moderne Sprachmodelle können solche Dinge durchaus einschätzen. Sie tun das nicht magisch, sondern statistisch. Sie erkennen Muster in Sprache, Kontext, Tonfall und Formulierung.
Aber aus Nutzersicht fühlt sich das anders an als ein klassischer Faktencheck.
Hinzu kommt ein weiterer Punkt: Die ausführliche Einordnung des Faktenchecks war bei mir ausschließlich auf Englisch formuliert, obwohl der ursprüngliche Beitrag auf Deutsch verfasst wurde. Gerade bei komplexen oder sensiblen Themen halte ich das für problematisch.
Wenn Plattformen automatisierte Einordnungen, Moderationshinweise oder Faktenchecks anzeigen, sollten diese möglichst in der Sprache des ursprünglichen Beitrags erscheinen. Andernfalls entsteht schnell eine zusätzliche Sprachbarriere — und Nutzer verstehen möglicherweise gar nicht vollständig, wie ein Ergebnis zustande gekommen ist.
Inhaltsanalyse oder Nutzeranalyse?
Ein Faktencheck beantwortet im Idealfall Fragen wie:
- Was wird behauptet?
- Ist die Aussage überprüfbar?
- Welche Quellen sprechen dafür oder dagegen?
- Wie sicher ist das Ergebnis?
Wenn ein System aber zusätzlich einschätzt, ob ein Nutzer spöttisch, frustriert, voreingenommen oder von einer bestimmten Überzeugung geleitet ist, verändert sich die Qualität der Analyse.
Dann geht es nicht mehr nur um den Inhalt, sondern zumindest teilweise um die Person hinter dem Inhalt.
Und genau dort beginnt die Grauzone.
Warum das datenschutzrechtlich und gesellschaftlich interessant ist
eYou positioniert sich als europäische Plattform und verweist auf Datenschutz. In der Datenschutzerklärung findet sich nach meiner Sichtung der Hinweis, dass kein Profiling betrieben werde.
Nach Veröffentlichung erster Gedanken zu diesem Thema habe ich mir zusätzlich mehrere öffentlich verfügbare Dokumente von eYou angesehen — darunter die AI-Transparency-Seite, Datenschutzerklärung, Community Guidelines, Informationen zu Moderationsmaßnahmen, Data Retention sowie interne Beschwerdeprozesse.
Positiv finde ich zunächst einmal, dass die Plattform überhaupt versucht, technische, organisatorische und rechtliche Informationen zum KI-Einsatz transparent bereitzustellen. Viele Plattformen tun selbst das nicht oder nur sehr oberflächlich.
Gerade deshalb wird das Thema aus meiner Sicht aber noch interessanter. Denn trotz dieser Transparenzinformationen bleiben Fragen offen — insbesondere dort, wo KI-Systeme beginnen, aus Sprache Rückschlüsse auf Haltung, Intention, Sarkasmus oder emotionale Zustände zu ziehen.
Das ist kein spezielles Problem von eYou. Es betrifft derzeit praktisch die gesamte KI-Branche. Moderne Sprachmodelle verwischen die Grenzen zwischen Inhaltsanalyse, Moderation, Sicherheitsbewertung und möglicher Verhaltensanalyse zunehmend.
Genau deshalb werden Themen wie Transparenz, Erklärbarkeit, Zweckbindung und menschliche Kontrolle aktuell auch im Zusammenhang mit europäischen KI-Regulierungen, dem EU AI Act und dem Digital Services Act (DSA) intensiv diskutiert.
Besonders interessant finde ich in diesem Zusammenhang auch die öffentlich dokumentierten DSA-Transparenzinformationen von eYou. Der DSA versucht innerhalb der EU unter anderem, Plattformmoderation, automatisierte Entscheidungen und Eingriffe nachvollziehbarer zu machen. Ziel ist es, mehr Transparenz darüber zu schaffen, wie Plattformen Inhalte moderieren, welche Maßnahmen ergriffen werden und welche Rechte Nutzer dabei haben.
Gerade dadurch wird aber auch sichtbar, wie komplex moderne Plattformmoderation inzwischen geworden ist. KI-Systeme, Moderationsregeln, menschliche Überprüfung, Transparenzberichte, Beschwerdeverfahren und gesetzliche Anforderungen greifen heute zunehmend ineinander.
Das ist zunächst einmal eine wichtige Aussage. Gleichzeitig stellt sich die Frage, wie „Profiling“ hier genau definiert wird.
Denn moderne KI-Systeme können aus Sprache Informationen ableiten, die ein Nutzer nie ausdrücklich angegeben hat. Solche abgeleiteten Informationen nennt man häufig Inferenzdaten. Dazu können zum Beispiel Einschätzungen gehören über:
- Interessen,
- politische oder weltanschauliche Tendenzen,
- Kommunikationsstil,
- Stimmung,
- Konfliktpotenzial,
- oder vermutete Absichten.
Eine einzelne Einschätzung wie „sarkastisch“ oder „spöttisch“ mag harmlos wirken. Kritisch wird es, wenn solche Einschätzungen gespeichert, mit Accounts verknüpft oder über längere Zeit aggregiert würden.
Genau deshalb finde ich auch die öffentlich dokumentierten Informationen zur Data Retention bei eYou interessant. Denn die Sensibilität solcher Systeme hängt nicht nur davon ab, was analysiert wird, sondern auch davon, wie lange Informationen, Metadaten oder mögliche Inferenzdaten gespeichert bleiben.
Temporäre Kontextanalyse ist etwas anderes als langfristig verfügbare historische Nutzerdaten. Ohne nachvollziehbare Informationen zu Speicherfristen bleibt diese Grenze für Nutzer jedoch oft schwer einschätzbar.
Dann könnte aus vielen kleinen Momentaufnahmen ein deutlich umfassenderes Bild eines Nutzers entstehen.
Interessant ist dabei vor allem, dass viele dieser Informationen nie aktiv angegeben werden müssen. Sie entstehen erst durch Analyse. Sprache selbst wird damit zu einer Art Sensor für Verhalten, Stimmung, Interessen oder mögliche Persönlichkeitsmerkmale.
Nicht jede Analyse ist automatisch problematisch
Man muss hier fair bleiben. Eine Plattform darf und muss Inhalte analysieren können. Ohne automatische Verfahren wären Spam-Erkennung, Betrugsprävention, Moderation und Sicherheitsmechanismen kaum praktikabel.
Auch Sarkasmuserkennung kann für einen Faktencheck sinnvoll sein. Wenn ein Nutzer offensichtlich ironisch schreibt, sollte ein System das erkennen können, um nicht völlig absurde Ergebnisse zu liefern.
Das Problem liegt also nicht darin, dass KI Sprache analysiert. Die Community Guidelines machen sogar deutlich, warum Plattformen überhaupt versuchen, Kommunikationskontext besser zu verstehen. Ohne solche Mechanismen würden viele Moderationssysteme an Ironie, Memes, Provokation oder bewusst manipulativer Sprache scheitern.
Das Problem liegt in der Grenze zwischen notwendiger Inhaltsanalyse und möglicher personenbezogener Einordnung.
Je stärker ein System beginnt, Aussagen über Motivation, Haltung oder emotionale Zustände eines Nutzers zu treffen, desto wichtiger werden Transparenz, Zweckbindung und Datensparsamkeit.
Analyse von außen
Ein weiterer Punkt geht sogar über eYou hinaus: Solche Analysen müssen nicht zwingend von der Plattform selbst durchgeführt werden.
Alles, was öffentlich sichtbar ist, kann grundsätzlich auch von außen gesammelt und ausgewertet werden. Ein Crawler, eine Datenbank, ein Embedding-Modell und ein Sprachmodell reichen heute aus, um öffentliche Beiträge großflächig zu analysieren.
Damit können Dritte theoretisch Kommunikationsmuster, Themeninteressen, Netzwerke, Haltungen und wiederkehrende sprachliche Merkmale auswerten. Das ist keine Science-Fiction mehr, sondern technisch mit überschaubarem Aufwand möglich.
Früher musste man sensible Informationen direkt preisgeben. Heute reicht es unter Umständen schon, lange genug öffentlich zu schreiben.
Moderation und Konsequenzen
Die öffentlich dokumentierten Informationen zu Content Notices und Moderationsmaßnahmen sowie Beschwerdeprozessen zeigen, dass eYou versucht, Eingriffe nachvollziehbarer zu machen. Das ist positiv, denn moderne KI-Systeme analysieren Inhalte nicht nur theoretisch. Solche Analysen können reale Auswirkungen auf Sichtbarkeit, Reichweite oder Moderation haben.
Gerade deshalb sind transparente Prozesse, menschliche Überprüfung und nachvollziehbare Widerspruchsmöglichkeiten wichtig. Moderne Sprachmodelle arbeiten probabilistisch und können Kontext, Ironie oder Sarkasmus falsch interpretieren.
Die eigentliche Herausforderung moderner KI-Moderation liegt daher vermutlich weniger in einzelnen Fehlentscheidungen als in der grundsätzlichen Schwierigkeit, komplexe KI-Systeme vollständig nachvollziehbar zu machen.
Transparenz allein reicht nicht immer aus
Die verschiedenen öffentlich dokumentierten Informationen von eYou zeigen aus meiner Sicht deutlich, dass sich die Plattform ernsthaft mit Fragen rund um KI, Moderation, Datenschutz und Nutzerrechte auseinandersetzt. Das ist deutlich besser als völlige Intransparenz.
Gleichzeitig bleibt ein grundsätzliches Problem moderner KI-Systeme bestehen: Selbst umfangreiche Dokumentation macht probabilistische Sprachmodelle nicht automatisch vollständig nachvollziehbar.
Auch bei guter Transparenz bleibt für Außenstehende oft schwer erkennbar, wie einzelne Modellentscheidungen konkret entstehen oder welche internen Bewertungen und Wahrscheinlichkeiten dabei eine Rolle spielen.
Und genau deshalb sind Diskussionen über Transparenz, Nutzerrechte und Grenzen moderner KI-Moderation aus meiner Sicht so wichtig.
Ein weiterer interessanter Gedanke
Je länger ich über solche Systeme nachdenke, desto interessanter wird für mich noch ein anderer Aspekt: KI-gestützte Faktenchecks und Moderationssysteme sind letztlich auch mächtige Werkzeuge.
Heute mag eine Plattform verantwortungsvoll, transparent und datenschutzorientiert arbeiten. Aber Plattformen verändern sich. Firmen werden verkauft, Investoren wechseln, Strategien ändern sich oder neue Eigentümer setzen andere Prioritäten.
Die Übernahme von Twitter durch Elon Musk hat beispielsweise sehr deutlich gezeigt, wie stark sich Moderation, Plattformkultur und öffentliche Wahrnehmung innerhalb relativ kurzer Zeit verändern können.
Natürlich können Nutzer in solchen Situationen ihre Accounts löschen oder Plattformen verlassen. Trotzdem bleibt eine wichtige Frage bestehen: Was passiert mit bereits vorhandenen Daten, Analysen oder historischen Einschätzungen?
Gerade bei KI-Systemen, die potenziell Sprache, Verhalten oder Kommunikationsmuster analysieren, wird langfristige Datenspeicherung damit zu einem noch sensibleren Thema.
Das ist kein Vorwurf an eYou. Es ist eher eine grundsätzliche Erinnerung daran, dass technische Systeme oft viel langlebiger sind als die Strategien oder Werte der Unternehmen dahinter.
Mein Fazit
Der KI-Faktencheck zeigt sehr schön, wo moderne Plattformtechnik heute steht. Sie bewertet nicht mehr nur Wörter, Links oder offensichtliche Falschbehauptungen. Sie versucht zunehmend, Kontext, Tonfall, Absicht und Bedeutung zu erfassen.
Das kann nützlich sein. Es kann Diskussionen verbessern, Unsinn sichtbar machen und Plattformen vor Missbrauch schützen.
Es kann aber auch dazu führen, dass Nutzer sich nicht nur moderiert, sondern interpretiert fühlen.
Und genau dieser Unterschied ist wichtig.
Ein Faktencheck fragt: „Stimmt diese Aussage?“
Eine weitergehende KI-Analyse fragt möglicherweise: „Was sagt diese Aussage über den Nutzer?“
Zwischen diesen beiden Fragen liegt ein erheblicher Unterschied.
Und genau deshalb finde ich Diskussionen über Transparenz, Speicherfristen, Nutzerrechte und die Grenzen moderner KI-Moderation so wichtig.