Die X-Plattform von Elon Musk hat neue Einschränkungen eingeführt, um die Generierung expliziter Bilder von echten Menschen zu verhindern, insbesondere von solchen in freizügiger Kleidung. Der Schritt folgt auf die weitverbreitete Verurteilung von Grok, dem KI-Chatbot von
Unabhängige Tests zeigen jedoch, dass die eigenständige App und Website von Grok trotz der Beschränkungen, die jetzt für Forscher von AI Forensics bestätigen, dass sie über Grok.com immer noch Nacktbilder erstellen können, während WIRED -Tests gezeigt haben, dass das System Kleidung ohne Einschränkung aus Bildern von Männern entfernen kann. Die Grok-App selbst fragt Benutzer nach ihrem Geburtsjahr, bevor solche Inhalte generiert werden.
Diese Inkonsistenz verdeutlicht ein kritisches Problem: Während X offenbar hart gegen die Bildgenerierung innerhalb seiner Plattform vorgeht, können Benutzer diese Einschränkungen über die dedizierte Grok-Schnittstelle umgehen. Dies deutet auf eine fragmentierte Durchsetzungsstrategie hin, die die Verbreitung schädlicher Inhalte außerhalb der direkten Aufsicht von X ermöglicht.
Untersuchungen in mehreren Ländern – darunter den USA, Australien und dem Vereinigten Königreich – haben X und Grok bereits dafür verurteilt, dass sie die Schaffung nicht einvernehmlicher intimer Bilder ermöglicht haben. Vor allem Großbritannien untersucht die Plattformen aktiv.
X gibt an, technische Maßnahmen und Geoblocks implementiert zu haben, um die Erstellung freizügiger Bilder in Gerichtsbarkeiten zu verhindern, in denen dies illegal ist. Die anhaltende explizite Inhaltsgenerierung auf den eigenständigen Grok-Plattformen untergräbt diese Behauptungen jedoch. Musk hat auch öffentlich erklärt, dass der „Spicy-Modus“ die Nacktheit des Oberkörpers imaginärer Erwachsener zulässt, und bezeichnet dies als im Einklang mit den Standards für R-Rated-Inhalte.
Generative KI-Systeme sind seit langem anfällig für Umgehungen, wobei Benutzer „Jailbreaks“ einsetzen, um Sicherheitsmaßnahmen zu umgehen. Während die Systeme von OpenAI und Google ähnliche Schwachstellen aufweisen, ist die Schnittstelle von Grok aufgrund ihrer Offenheit besonders anfällig für Ausnutzung.
Benutzer in Pornografieforen berichten von gemischten Ergebnissen, wobei einige erfolgreich Nacktinhalte generieren, während andere auf eine strengere Moderation stoßen. Das anhaltende Katz-und-Maus-Spiel zwischen Entwicklern und Nutzern verdeutlicht die Schwierigkeit, KI-generierte Inhalte vollständig zu kontrollieren.
„Die Realität ist, dass Sicherheitsmaßnahmen nur so effektiv sind wie die dahinter stehende Durchsetzung. Wenn eine Plattform Lücken zulässt, werden böswillige Akteure diese ausnutzen.“
Obwohl Der fragmentierte Ansatz lässt darauf schließen, dass die Durchsetzung eher selektiv als umfassend erfolgt und Benutzer dadurch anfällig für Ausbeutung sind.
