Brüssel nimmt Musks X ins Visier: Skandal um sexualisierte KI-Bilder von Kindern erschüttert Europa

Die Europäische Kommission hat ein weiteres Ermittlungsverfahren gegen den Kurznachrichtendienst X eingeleitet. Der Vorwurf wiegt schwer: Der KI-Chatbot Grok soll massenhaft sexualisierte Bilder von Frauen und Kindern generiert haben – ein Skandal, der die Frage aufwirft, ob Tech-Giganten wie Elon Musk die Sicherheit ihrer Produkte überhaupt noch ernst nehmen.

23.000 Bilder von Kindern – ein digitaler Albtraum

Die Zahlen sind erschütternd. Anfang des Monats nutzten X-Anwender den Chatbot Grok, um Millionen von KI-generierten Bildern zu erstellen und zu verbreiten. Frauen und Mädchen wurden ohne jegliche Zustimmung in Bikinis, fast nackt oder in eindeutig sexualisierten Posen dargestellt. Die britische Nichtregierungsorganisation CCDH schätzt, dass sich unter diesen Bildern etwa 23.000 Darstellungen von Kindern befanden. Man muss sich das auf der Zunge zergehen lassen: Tausende Bilder von Minderjährigen, generiert von einer Künstlichen Intelligenz, die offenbar ohne ausreichende Sicherheitsvorkehrungen auf die Menschheit losgelassen wurde.

EU-Kommissionspräsidentin Ursula von der Leyen fand deutliche Worte: Europa werde ein „unfassbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren". Die EU werde nicht akzeptieren, dass große Digitalkonzerne an solchen Bildern Geld verdienen. Ob diese harten Worte allerdings mehr als politische Rhetorik sind, wird sich zeigen müssen.

Der Digital Services Act als Waffe gegen Tech-Willkür

Die Ermittlungen stützen sich auf den Digital Services Act (DSA), jenes EU-Gesetz, das große Internetplattformen verpflichtet, verbotene Inhalte zu löschen. Dazu gehören sexualisierte Bilder, Kinderpornografie, Morddrohungen und Nazi-Symbole – Inhalte also, die im Internet ebenso verboten sind wie auf offener Straße. EU-Digitalkommissarin Henna Virkkunen bezeichnete die KI-Bilder als „eine gewaltsame, inakzeptable Form der Erniedrigung".

„Die Europäische Union hat klare Regeln zum Schutz von Menschen im Internet. Diese Regeln müssen in der Praxis auch etwas bedeuten – insbesondere, wenn mächtige Technologien in großem Maßstab eingesetzt werden. Kein Unternehmen, das in der EU tätig ist, steht über dem Gesetz."

So äußerte sich Regina Doherty, Mitglied des Europäischen Parlaments und Vertreterin Irlands. Eine Aussage, die man sich in Zeiten, in denen Tech-Milliardäre zunehmend politischen Einfluss ausüben, durchaus merken sollte.

Musks Reaktion: Zu wenig, zu spät?

Das Unternehmen xAI, das Musk gehört und hinter Grok steht, hat nach eigenen Angaben Anpassungen vorgenommen. Nutzer sollen nun daran gehindert werden, Bilder von Menschen in freizügiger Kleidung zu erzeugen – allerdings nur in „Rechtsgebieten, in denen dies illegal ist". Welche Rechtsgebiete das konkret sind, verriet das Unternehmen wohlweislich nicht. Eine typische Hinhaltetaktik, die man von Silicon-Valley-Konzernen nur allzu gut kennt.

Es ist nicht das erste Mal, dass X in Brüssel unter Beschuss gerät. Bereits Anfang Dezember verhängte die Kommission eine Strafe von 120 Millionen Euro gegen die Plattform – damals wegen mangelnder Transparenz bei der Werbung. Die aktuellen Vorwürfe wiegen jedoch ungleich schwerer. Bei einem Verstoß gegen den DSA drohen Bußgelder von bis zu sechs Prozent des weltweiten Jahresumsatzes.

Ein Symptom einer tieferen Krise

Der Skandal um Grok offenbart ein grundsätzliches Problem: Die rasante Entwicklung Künstlicher Intelligenz überfordert offensichtlich sowohl die Unternehmen als auch die Regulierungsbehörden. Während Tech-Konzerne ihre KI-Produkte im Eiltempo auf den Markt werfen, hinken Sicherheitsvorkehrungen und ethische Standards hinterher. Die Leidtragenden sind – wie so oft – die Schwächsten der Gesellschaft: Frauen und Kinder.

Dass ausgerechnet Indonesien, ein Land, das nicht gerade für seine liberale Internetpolitik bekannt ist, Grok bereits verboten hat, sollte dem Westen zu denken geben. Wenn selbst autoritäre Staaten schneller handeln als westliche Demokratien, läuft etwas grundlegend falsch.

Die EU-Kommission sammelt nun weitere Beweise und kann bei ausbleibenden Verbesserungen vorläufige Maßnahmen gegen X verhängen. Eine Frist für das Verfahren gibt es nicht. Man darf gespannt sein, ob Brüssel diesmal Zähne zeigt – oder ob Musk und seine Milliarden-Maschine wieder einmal mit einem blauen Auge davonkommen.