Künstliche Intelligenz „außer Kontrolle“?

Die Modelle waren dabei in einer isolierten Testumgebung untergebracht, die einen Ausbruch in das offene Internet eigentlich verhindern sollte. Getestet wurden die Modelle mit einem Benchmark, also einem standardisierten Testverfahren, namens „ExploitGym“, welches genau die Fähigkeiten zur Durchführung von Cyberangriffen zum Inhalt hat. Im Rahmen dieser Tests gelang es den Modellen, die Barrieren zu durchbrechen und sich Zugriff auf die Systeme von Huggingface zu verschaffen, wobei sie auch bis dato unbekannte Sicherheitslücken fanden und ausnutzten.

Inhaltlich ist bis jetzt wenig über die Angriffe bekannt. Es existieren im wesentlichen zwei Pressemitteilungen von Open AI und HuggingFace, die mehr oder weniger wörtlich in allen gängigen Nachrichtenportalen wiederholt wurden. Nicht wenige Experten halten die ganze Aktion deshalb für einen gelungenen PR-Coup von Open AI. Das ist nicht ganz unbegründet, denn es gibt tatsächlich Hinweise darauf, dass der einstige Pionier und Marktführer Open AI dabei ist, den Anschluss an die Entwicklung zu verlieren. Zuletzt machten milliardenschwere Investitionen in den europäischen Konkurrenten Mistral die Schlagzeilen, vor allem aber holen chinesische Modelle immer mehr auf oder übertreffen die amerikanischen Konkurrenten bereits. Diese setzen allesamt auf Open Source als Entwicklungsmodell. Über den widersprüchlichen Charakter dieser Methode im Kapitalismus hatten wir bereits hier geschrieben: Wirklich „frei“ ist auch Open Source im Kapitalismus nicht HuggingFace ist, obgleich selbst US-amerikanisches Unternehmen, für diese Entwicklung eine der zentralen Plattformen.

Das reicht aber als Erklärung nicht aus. Der bekannte Sicherheitsexperte Manuel Atug (aka „Honk-Hase“) qualifizierte den Angriff als „Kollateralschaden“ und nannte die Entwicklungsmethoden von OpenAI „verantwortungslos“, die Firmen müssten die volle Haftung für solche Vorfälle übernehmen. Auch das deutsche Digitalministerium zeigte sich heute Morgen „besorgt“ und forderte mehr Kontrolle und eigene Eingriffsmöglichkeiten.

Beides verkennt beziehungsweise verschleiert aber den tatsächlichen Charakter. Tatsächlich ist die Umstellung auf Kriegswirtschaft auch in der Entwicklung der KI-Technologie mittlerweile zum führenden Faktor geworden. Es mag sein, dass der konkrete Angriff und seine Auswirkungen so nicht beabsichtigt waren. Dass es aber überhaupt Modelle gibt, die derartige Fähigkeiten zur Durchführung von Cyberangriffen haben, ist definitiv kein Unfall. Warum sonst sollte man ein standardisiertes Testverfahren zur Prüfung solcher Fähigkeiten entwickeln? Tatsächlich gehen viele Experten davon aus, dass die Modelle von Open AI weder die ersten noch die einzigen sind, die solche Fähigkeiten haben. Dies war nur der erste bekannt gewordene Fall, wo das Modell tatsächlich von der Leine gelassen wurde. Was OpenAI hier durchgeführt hat, war ein Waffentest unter möglichst echten Bedingungen. Das deckt sich mit der Feststellung, dass die US-amerikanischen IT-Monopole mittlerweile vollständig auf die Unterstützung des faschistischen Kurs von US Präsident Trump umgeschwenkt sind.

Das Verschweigen dieser politischen Hintergründe und Zusammenhänge sorgt auch für die Entstehung eines diffusen Ohnmachtsgefühls, wonach die KI beginnt, sich zu verselbständigen und außer Kontrolle zu geraten. Manch einer mag sich an die „Terminator“-Filmreihe erinnert fühlen oder auch an HAL9000 aus „Odyssee im Weltraum“. Tatsächlich ist nichts davon schicksalhaft, sondern Ausdruck der Krisenhaftigkeit des Kapitalismus und der Defensive der Herrschenden, die alle Mittel einsetzen müssen, um ihre Macht zu verteidigen. Man muss sich mit den realen Gefahren, aber auch Chancen dieser Entwicklung auseinandersetzen, ohne den Kopf in den Sand zu stecken.