![](\"https:\/\/now-news.de\/de\/wp-content\/uploads\/sites\/3\/2026\/01\/69774f1b48fbef66135d9c16.jpg\")
<\/p>\n<\/p>\n
<\/p>\n
Die Europ\u00e4ische Kommission hat ein f\u00f6rmliches Verfahren gegen die Online-Plattform X eingeleitet. Anlass sind Vorw\u00fcrfe, wonach der KI-Chatbot Grok auf der Plattform zur Verbreitung sexualisierter, teils illegaler Bildinhalte genutzt worden sein soll. Die Untersuchung erfolgt auf Grundlage des Digital Services Act (DSA), des zentralen EU-Regelwerks zur Regulierung digitaler Plattformen.<\/p>\n
Nach Angaben der Kommission soll gepr\u00fcft werden, ob X ausreichende Ma\u00dfnahmen ergriffen hat, um zu verhindern, dass mithilfe von Grok sexualisierte Deepfakes erstellt und verbreitet werden.<\/p>\n
Dabei geht es nicht nur um manipulierte Darstellungen erwachsener Personen, sondern auch um mutma\u00dflich KI-generierte Inhalte mit Minderj\u00e4hrigen. EU-B\u00fcrger seien dadurch einer erheblichen Gefahr ausgesetzt gewesen, teilte die Beh\u00f6rde mit.<\/p>\n
Ausl\u00f6ser der Ermittlungen war ein Update von Grok Ende Dezember, nach dem Nutzerinnen und Nutzer Bilder gezielt sexualisieren konnten.<\/p>\n
Medienberichten zufolge war es m\u00f6glich, reale Personen ohne deren Zustimmung in freiz\u00fcgige oder pornografische Szenarien zu montieren. Da Grok direkt in die Plattform X integriert ist, konnten solche Inhalte rasch und weitreichend verbreitet werden.<\/p>\n
Besonders betroffen von derartigen Deepfake-Darstellungen sind nach Einsch\u00e4tzung von Fachstellen Frauen. Die Organisation AI Forensics berichtete zudem, Grok sei auch zur Erstellung sexualisierter Bilder von Minderj\u00e4hrigen genutzt worden.<\/p>\n
X wies diese Vorw\u00fcrfe zur\u00fcck. Unternehmenschef Elon Musk erkl\u00e4rte, ihm sei kein best\u00e4tigter Fall bekannt, in dem Grok Nacktbilder von Kindern erzeugt habe. Unabh\u00e4ngige Untersuchungen kamen jedoch zu dem Schluss, dass entsprechende Inhalte auch nach ersten Einschr\u00e4nkungen weiterhin m\u00f6glich gewesen seien.<\/p>\n
Die EU-Kommission sah sich zuletzt wachsendem politischen Druck ausgesetzt. Abgeordnete mehrerer Fraktionen des Europ\u00e4ischen Parlaments forderten Kommissionspr\u00e4sidentin Ursula von der Leyen in einem Schreiben zu raschem regulatorischem Handeln auf. KI-generierte Darstellungen von Kindesmissbrauch d\u00fcrften in Europa keinen Platz haben, hie\u00df es darin.<\/p>\n
Bereits Mitte Januar hatte die Kommission Fragenkataloge an X \u00fcbermittelt. Die Antworten des Unternehmens reichten aus Sicht der Beh\u00f6rde nicht aus, um die Bedenken auszur\u00e4umen. Mehrere spezialisierte DSA-Teams arbeiten nun an dem Verfahren, das intern als priorit\u00e4r eingestuft wird.<\/p>\n
Bemerkenswert ist, dass sich die Kommission in diesem Fall auf den Digital Services Act st\u00fctzt und nicht auf das europ\u00e4ische KI-Gesetz. Begr\u00fcndet wird dies damit, dass Grok funktional Teil der Social-Media-Plattform sei und somit unter die Pflichten des DSA falle. Zudem verf\u00fcgt die Kommission in diesem Rechtsrahmen bereits \u00fcber erprobte Durchsetzungsmechanismen gegen\u00fcber gro\u00dfen US-Technologiekonzernen.<\/p>\n
X hat auf die Kritik mit technischen Einschr\u00e4nkungen reagiert. Die Bildgenerierung und -bearbeitung ist inzwischen auf zahlende Abonnenten beschr\u00e4nkt. Zus\u00e4tzlich erkl\u00e4rte das Unternehmen, Ma\u00dfnahmen eingef\u00fchrt zu haben, die die Bearbeitung von Bildern realer Personen in leichter Bekleidung verhindern sollen. Die Aufsichtsbeh\u00f6rden halten diese Schritte jedoch f\u00fcr unzureichend.<\/p>\n
Auch au\u00dferhalb der EU-Gremien steht X unter Beobachtung. In Gro\u00dfbritannien hat die Medienaufsicht Ofcom ein eigenes Pr\u00fcfverfahren eingeleitet, w\u00e4hrend sich in Frankreich die Staatsanwaltschaft mit der Plattform befasst.<\/p>\n
Dort betreffen die Ermittlungen nicht nur sexualisierte Inhalte, sondern auch den Verdacht, dass bestimmte Inhalte, darunter Holocaustleugnung und extremistische Beitr\u00e4ge, durch algorithmische Mechanismen beg\u00fcnstigt worden sein k\u00f6nnten.<\/p>\n
Die Einleitung des Verfahrens bedeutet noch keinen formalen Schuldnachweis.<\/p>\n
Sollte X jedoch keine \u00fcberzeugenden Gegenargumente liefern oder weitere Verst\u00f6\u00dfe festgestellt werden, drohen empfindliche Sanktionen. Wie lange das Verfahren dauern wird, lie\u00df die Kommission offen.<\/p>\n
Mehr zum Thema\u00a0<\/strong>\u2013\u00a0Elon Musk stoppt Parteigr\u00fcndung und setzt auf Vers\u00f6hnung<\/a><\/p>\n\n