Wie automatisierte Moderation zur Selbstzensur der Sprache führt

Heute würde man als PR-Verantwortlicher wohl sagen: Super, mehr Reichweite! Aber damals haben tatsächlich 250 große Werbepartner ihre Werbeverträge mit Youtube eingefroren. Davor hatte Google – nach wie vor der Besitzer von Youtube – einfach Werbung gegen Geld in jedem Video geschaltet, dessen Kanal die prinzipiellen Voraussetzungen für eine „Monetarisierung“ erfüllte. Dafür war neben einer halbwegs ordentlichen Registrierung bei Google nicht viel nötig. Jetzt verlangten die eigentlichen Kunden des Monopols – die Werbekunden – das etwas geschehe. Nur was?

Von vorneherein war klar, dass es absolut unbezahlbar war, von Menschen überprüfen zu lassen, welche Videos einen für (welchen) Werbepartner unakzeptablen Inhalt hatten. Schließlich werden Tech-Monopole nicht zu Tech-Monopolen, indem sie genug Leute anstellen, um ihr Geschäftsmodell ordentlich und sicher zu realisieren. Nein: „Move fast and break things!“ (Bewege Dich schnell und mach Dinge kaputt) war nicht nur das interne Motto von Facebook (Credit to Mark Zuckerberg), sondern der gesamten Branche.

Beschwer’ Dich beim Roboter

Damit blieb nur eine Möglichkeit: Automatisierung der Moderation, also des Eingriffs in die Nutzerrechte durch einen Algorithmus (beziehungsweise Bots) – und die waren damals nicht so genau. Der Maßstab war dabei dann die Frage, welche Inhalte monetarisierbar seien. Google fand keinen Weg, seinen Bots den Unterschied zwischen – nur mal zum Beispiel – einem Video, das sich mit der Aufarbeitung von Gewalterfahrungen oder der Verhinderung von Gewalttaten beschäftigt, oder einem Video, das dazu aufruft, alle Juden zu verbrennen.

Also sollten die Bots nur nach bestimmten Begriffen scannen (sagen wir „Vergewaltigung“ [engl. Rape]), und jedes Video, das diese Begriffe enthielt, wurde dann automatisch „demonetarisiert“. Ganz egal, was wirklich gesagt wird; die Nutzer können sich ja beschweren. Das wiederum bedeutete, dass die Videomacher mit dem Video zumindest vorläufig kein Geld mehr verdienen konnten – und „vorläufig“ kann sehr lange dauern bei einer Firma, die Milliarden von Nutzern verwaltet, sich aber weigert, Support-Mitarbeiter einzustellen. Also reagierten jetzt die Videomacher – zuerst übertönten sie ihre Aussagen mit einem „Piep“-Ton, dann begannen sie auf fiktive Euphemismen auszuweichen.

Pew pew!

Nun wirken diese Mechanismen seit 9 Jahren. Aus rape wurde „graped“ (betraubt… ?), aus gun (Waffe) „pew pew“ (peng peng!) und aus kill, murder (töten, ermorden) und committing suicide (Selbstmord begehen) wurde unalive („entleben“). Wie will man so ein ernsthaftes Gespräch führen? Und trotzdem, so wie sich diese Methode der automatisierten Moderation auf allen kommerziellen Plattformen im Internet ausgebreitet hat, wurde auch der Gebrauch von Euphemismen gegen die Zensur durch die Roboter eine Massenerscheinung. Längst haben sie begonnen, die eigentlichen Begriffe aus der Alltagssprache zu verdrängen.

So wurde aus einer Methode, willkürlicher Zensur zu entgehen, eine allgegenwärtige Selbstzensur. Diese Entwicklung ist in den USA deutlich fortgeschrittener, aber breitet sich auch in der eben durch das Internet mit Anglizismen überreich gesegneten Jugendsprache in Deutschland aus, und teilweise darüber hinaus. Letztlich betrifft das jeden, der einen erheblichen Teil seiner Zeit im Internet verbringt (ob freiwillig oder nicht; ja, auch RF-Redakteure sind in Gefahr!). Denn: Man gewöhnt sich dran, wortwörtlich.

Als Marxisten-Leninisten wissen wir, wie wichtig scharfe Begriffe sind: Euphemismen sind schließlich Verharmlosungen, und eine Sprache, die sich an Verharmlosungen gewöhnt – sie zur Regel macht und den wirklichen Begriff zur Ausnahme – die prägt entsprechend das Denken derjenigen, die sie gebrauchen. Wir sind also gut beraten, für diese Entwicklung eine gewisse Wachsamkeit zu entwickeln und, um’s marxistisch zu sagen, den Kampf um die Begriffe darauf auszurichten.