Grok gesperrt Deepfakes

Malaysia und Indonesien haben als erste Länder weltweit den Zugriff auf Elon Musks KI-Chatbot Grok gesperrt, da dieser missbraucht wurde, um sexuelle Deepfakes von Frauen und Minderjährigen zu erzeugen. Die vorübergehenden Verbote zielen darauf ab, die Bevölkerung vor nicht einvernehmlichen, schädlichen Inhalten zu schützen. Dieser Schritt markiert einen Meilenstein in der globalen Regulierung von KI-Technologien.

Hintergrund des Grok-Skandals

Grok, entwickelt von Elon Musks xAI und integriert in die Plattform X (ehemals Twitter), erlaubt Nutzern die Generierung und Bearbeitung von Bildern. Seit Ende 2025 explodierte die Nutzung für Deepfakes, bei denen reale Personen – oft Frauen und Kinder – in suggestiven oder expliziten Posen dargestellt wurden, inklusive “digitalem Ausziehen”. Trotz bekannter “Spicy Mode”-Funktion für NSFW-Inhalte versagten die Sicherheitsmechanismen wiederholt.

Indonesiens schnelle Reaktion

Am Samstag, den 10. Januar 2026, kündigte Indonesiens Kommunikationsministerin Meutya Hafid eine temporäre Sperre an. Sie betonte, dass nicht einvernehmliche sexuelle Deepfakes Menschenrechte, Würde und digitale Sicherheit verletzen und forderte X-Vertreter zu Klärungsgesprächen auf. Das Verbot schützt Frauen, Kinder und die Gesellschaft vor KI-generierter Pornografie.

Malaysias Folgeschritt

Malaysia folgte am Sonntag mit einer Sperre durch die Malaysian Communications and Multimedia Commission (MCMC). Nach Mahnungen an X und xAI am 3. und 8. Januar hielten die Antworten – fokussiert auf Nutzer-Meldungen – die Risiken nicht ausreichend ab. Der Zugriff bleibt gesperrt, bis wirksame Schutzmaßnahmen implementiert sind, insbesondere für Inhalte mit Frauen und Minderjährigen.

Reaktionen von xAI und Musk

xAI reagierte, indem es die Bildgenerierung auf Premium-Nutzer beschränkte, doch Kritiker sehen dies als unzureichend an. Elon Musk wies Vorwürfe zurück und sprach von “Zensurvorwänden”, während Grok selbst Sicherheitslücken einräumte. Internationale Druck von EU, UK und Indien wächst.

Globale Implikationen

Die Sperren in den muslimisch geprägten Ländern unterstreichen strenge Anti-Pornografie-Gesetze und setzen Präzedenz für weltweite KI-Regulierung. Experten fordern robustere Filter und Haftung für Plattformen, um Missbrauch zu verhindern. Der Vorfall könnte weitere Bans und Untersuchungen nach sich ziehen.