Nachdem er wegen KI-Bildern von Frauen im Bikini und in sexualisierten Posen unter Druck geraten ist, will der Onlinedienst X das "Entkleiden" von Menschen durch seinen Chatbot Grok künftig verhindern. Es seien entsprechende "technische Maßnahmen" ergriffen worden, erklärte der Konzern von US-Milliardär Elon Musk. Die EU-Kommission will die Änderungen nun "sorgfältig prüfen" und droht im Falle weiterer Rechtsverstöße mit Bußgeldern.
"Wir haben technische Maßnahmen ergriffen, um zu verhindern, dass über den Grok-Account Bilder von realen Personen in freizügiger Kleidung wie Bikinis erarbeitet werden können", erklärte das Sicherheitsteam von X. "Diese Einschränkung gilt für alle Nutzer, auch für zahlende Abonnenten." Zudem solle die Erstellung und Bearbeitung von Bildern über den Grok-Account künftig nur noch zahlenden Abonnenten möglich sein.
Allerdings blieb unklar, wo die neuen Maßnahmen gelten sollen: Diese sollten durch eine "geografischen Sperre" umgesetzt werden - "innerhalb von Rechtsordnungen, in denen dies illegal ist", erklärte X. In Deutschland und der Europäischen Union sind wie in vielen anderen Ländern Fälschungen wie die Grok-Bildbearbeitungen verboten.
Die EU-Kommission will die Umsetzung der neuen Maßnahmen nun beobachten. "Sollten diese Änderungen nicht wirksam sein, wird die Kommission nicht zögern, ihr gesamtes legislatives Arsenal auszuschöpfen", teilte ein Sprecher mit. Das sind in erster Linie Bußgelder. Als letztes Mittel kann die Kommission eine zeitlich begrenzte Sperre der Plattform verhängen, davon sind die Ermittlungen allerdings weit entfernt.
In Brüssel läuft bereits ein Verfahren gegen X wegen der Verbreitung von Inhalten, die in mehreren EU-Staaten illegal sind, etwa Gewaltdarstellungen und Hassrede. Die Vorwürfe gegen Grok könnten nun dazukommen. Anfang Dezember hatte die Kommission bereits eine erste Strafe in Höhe von 120 Millionen Euro gegen X verhängt, damals ging es unter anderem um mangelnde Transparenz bei Werbung.
Wenige Stunden vor der X-Stellungnahme hatte auch der US-Bundesstaat Kalifornien eine Untersuchung gegen Grok eröffnet. Dabei soll nach Angaben von Generalstaatsanwalt Rob Bonta geklärt werden, ob Musks KI-Firma xAI gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat.
Auch in Großbritannien laufen Ermittlungen wegen möglicher Verstöße gegen die Pornografie-Gesetze. Premierminister Keir Starmer begrüßte am Donnerstag die von X angekündigten Änderungen - und forderte deren sofortige Umsetzung. "Bilder junger Frauen sind kein öffentliches Gut, und ihre Sicherheit ist nicht verhandelbar", erklärte der Regierungschef und drohte: "Falls eine weitere Verschärfung der bestehenden Gesetze notwendig ist, sind wir dazu bereit."
Stein des Anstoßes ist der neue "Spicy Mode" (scharfer Modus) bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen konnten - etwa mit Aufforderungen wie "entferne ihre Kleider" oder "zieh ihr einen Bikini an". Auch die Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich.
Am Samstag hatte Indonesien als weltweit erstes Land Grok vollständig gesperrt. Malaysia ergriff die gleiche Maßnahme am Sonntag. Die Philippinen kündigten ihrerseits am Donnerstag an, den Zugang zu Grok noch im Laufe des Tages für alle seine Einwohner zu sperren.
