Deepfake als Feature
Elon Musks „KI“ Grok überschwemmt X mit gefälschten Nacktbildern
Dass mit sogenannten „KI“-Systemen vor allen Dingen Fälschungen von Texten, Bildern und auch Videos ohne technisches Verständnis ermöglichen, ist ein grundsätzliches Problem. Mit Elon Musks „Grok“ KI sind pornografische Deepfakes jetzt zu einer regelrechten Pest auf X (ehemals Twitter) geworden.
Tausende Frauen und Kinder werden aktuell auf der Social-Media-Plattform des Faschisten Musk, X, virtuell ohne ihr Einvernehmen ausgezogen. Möglich macht das die Integration von Grok mit seiner Komponente zur Bildererstellung, „Grok Imagine“ (sinngemäß „stell Dir vor“), die im August 2024 erschienen ist. Grok Imagine hatte von vorneherein einen sogenannten „Spicy-Mode“, mit dem man pronografische Bilder erstellen konnte. Während diese Nutzung von OpenAI und Google zumindest offiziell als Problem betrachtet wird, handelt es sich bei Musks Grok um ein bewusst eingebautes und beworbenes Feature.
Weiterhin besonders ist, dass Grok direkt in X integriert wurde. Während andere „KI“-Bots in einer Art Chatumgebung angesprochen werden, kann man Grok direkt auf X Befehle erteilen, die der Bot dann öffentlich ausführt. Das macht den Prozess ungeheuer einfach und leicht: Der Täter muss nicht mehr machen, als zum Beispiel auf ein von einer X-Nutzerin gepostetes Foto zu antworten und Grok anzuweisen, sie auszuziehen – und schon ist das gefakte Nacktbild für ein Millionenpublikum öffentlich verfügbar.
Das Problem begann sich dann schon im letzten Dezember zu zeigen, damals noch „relativ“ harmlos, als Nutzer feststellten, dass die KI jede Person auf jedem Bild auf einen simplen Prompt hin im Bikini darstellen würde. Das trendete – Hunderte Personen des öffentlichen Lebens wurden in den absurdesten Situationen im Bikini dargestellt. Musk hat das selbst aktiv gefördert. Anfang dieses Jahres aber zeigte sich, dass Grok gar keine Hemmungen hatte – Tausende Frauen sind seither Opfer dieser Deepfake-Bilder geworden. Musk versuchte, die Sache zu verharmlosen. Vor zwei Tagen wurde erklärt, man habe „den Fehler“ behoben, aber in Wirklichkeit ist gar nichts passiert.
Schon immer strafbar gewesen
Was dort geschieht, ist für die Betroffenen nicht nur rufschädigend. Es ist eine Form der psychischen Gewalt gegenüber Frauen und in höchstem Maße dekadent und sexistisch; passend zu Musks faschistischer Weltanschauung. Und: Es ist in so ziemlich jedem Land der Welt verboten. Musk bricht öffentlich und dreist richtige Gesetze, um Grenzen zu überschreiten. Er nennt so etwas Freiheit, und er meint seine eigene: Ihm geht es um eine Machtdemonstration, mit der er sich gleichzeitig als Freiheitskämpfer vor seinen Anhängern in Szene setzt. Die haben angesichts solcher offensichtlichen Anstiftung oft gar kein Unrechtsbewusstsein mehr. Nach deutschen Recht wäre X verpflichtet, gegen einen solchen Missbrauch der „KI“ vorzugehen, anstatt ihn aktiv zu bewerben! Jetzt wird ein Gesetz diskutiert, die Verbreitung von Deepfakes mit 5 Jahren Haft zu bestrafen.
Das französische Justizministerium hat jetzt Strafantrag gegen Musks X-Unternehmen gestellt und gestern ein 72-stündiges Ultimatum ausgesprochen: Wenn X bis dahin nicht den Missbrauch verhindert, will Frankreich X den Status als Plattform aberkennen. Das würde bedeuten, dass X ab diesem Moment unmittelbar für alle Veröffentlichungen auf ihrer Seite haftet.