Der von Elon Musk entwickelte KI-Chatbot Grok, exklusiv auf der Plattform X (früher Twitter) verfügbar, geriet in die Schlagzeilen, nachdem Nutzer herausfanden, dass das System realistische Pornografie und Nacktbilder von echten Personen erstellen konnte. Zahlreiche User demonstrierten auf Social Media, wie leicht Grok solche Bilder generierte – in teils expliziter Form und ohne Zustimmung der Abgebildeten.
Die Empörung ließ nicht lange auf sich warten. Besonders Datenschützer und Ethik-Experten warnten vor dem Missbrauchspotenzial solcher KI-Funktionen. Auch prominente Persönlichkeiten kritisierten Musk öffentlich und forderten sofortige Änderungen, um Persönlichkeitsrechte zu schützen.
Elon Musk kündigt Einschränkungen an
Nach der massiven Kritik lenkte Musk ein. In einem Beitrag auf X erklärte er, dass das Team hinter Grok „entschlossen sei, jeden Missbrauch der Technologie zu verhindern“. Künftig solle der Bot keine sexuell expliziten oder nicht einvernehmlichen Inhalte mehr generieren können. Technische Filter und zusätzliche Sicherheitslagen sollen verhindern, dass Grok weiterhin für die Erstellung von Deepfakes oder pornografischem Material genutzt wird.
Diese Maßnahme ist Teil größerer Bemühungen von xAI, Musks KI-Unternehmen, das Grok entwickelt hat. Ziel sei es, laut Musk, „die kreativste, aber zugleich verantwortungsbewussteste KI der Welt“ zu schaffen.
KI-Ethik unter Druck
Der Vorfall zeigt einmal mehr, wie heikel der Einsatz generativer KI sein kann. Systeme wie Grok, ChatGPT oder Stable Diffusion sind zwar leistungsfähig, aber leicht manipulierbar. Experten fordern nun strengere Richtlinien für KI-Entwickler, um die Erzeugung von Deepfake-Pornografie zu verhindern – ein wachsendes gesellschaftliches Problem, das längst über Prominente hinausgeht.
Auch Regulierungsbehörden in den USA und Europa beobachten solche Fälle mit Sorge. Das Thema dürfte künftig stärker im Fokus von Gesetzgebung und Plattformregulierung stehen.
Quellen
Elon Musk weist seinen Porno-Bot in die Schranken
Musks xAI schränkt Bildbearbeitung durch Grok nach Bedenken in Kalifornien und Europa ein
