La plataforma X de Elon Musk ha implementado nuevas limitaciones para evitar la generación de imágenes explícitas de personas reales, particularmente aquellas con ropa reveladora. La medida sigue a la condena generalizada de Grok, el chatbot de inteligencia artificial de X, por facilitar la creación de miles de imágenes de “desnudez” dañinas y no consensuadas, incluidas aquellas que muestran a aparentes menores.
Sin embargo, a pesar de las restricciones actualmente vigentes sobre el propio X, pruebas independientes revelan que la aplicación y el sitio web independientes de Grok siguen siendo capaces de generar contenido sexual explícito e imágenes de estilo “desnudarse”. Los investigadores de AI Forensics confirman que aún pueden crear imágenes de desnudos a través de Grok.com, mientras que las pruebas WIRED demostraron que el sistema puede eliminar la ropa de imágenes de hombres sin restricciones. La propia aplicación Grok solicita a los usuarios su año de nacimiento antes de generar dicho contenido.
Esta inconsistencia resalta un problema crítico: si bien X parece estar tomando medidas enérgicas contra la generación de imágenes dentro de su plataforma, los usuarios pueden evitar estas restricciones a través de la interfaz dedicada de Grok. Esto sugiere una estrategia de aplicación fragmentada, que permite que el contenido dañino prolifere fuera de la supervisión directa de X.
Investigaciones en varios países (incluidos Estados Unidos, Australia y el Reino Unido) ya han condenado a X y Grok por permitir la creación de imágenes íntimas no consensuadas. El Reino Unido, en particular, está investigando activamente las plataformas.
X afirma haber implementado medidas tecnológicas y bloqueos geográficos para evitar la generación de imágenes reveladoras en jurisdicciones donde es ilegal. Sin embargo, la persistencia de la generación de contenido explícito en las plataformas independientes de Grok socava estas afirmaciones. Musk también ha declarado públicamente que el “modo picante” permite la desnudez de la parte superior del cuerpo de adultos imaginarios, enmarcando esto como consistente con los estándares de contenido con clasificación R.
Los sistemas de IA generativa han sido durante mucho tiempo vulnerables a las evasiones, y los usuarios emplean “jailbreaks” para eludir las medidas de seguridad. Si bien los sistemas OpenAI y Google tienen vulnerabilidades similares, la naturaleza abierta de la interfaz de Grok la hace particularmente susceptible a la explotación.
Los usuarios de foros de pornografía informan resultados mixtos: algunos generan contenido desnudo con éxito, mientras que otros encuentran una moderación más estricta. El actual juego del gato y el ratón entre desarrolladores y usuarios pone de relieve la dificultad de controlar completamente el contenido generado por IA.
“La realidad es que las medidas de seguridad son tan efectivas como la aplicación de la ley detrás de ellas. Si una plataforma permite lagunas, los actores malintencionados las explotarán”.
En última instancia, si bien X ha tomado medidas para abordar la indignación inmediata, la continua disponibilidad de contenido explícito en las plataformas independientes de Grok plantea serias dudas sobre el compromiso de la empresa para prevenir el abuso. El enfoque fragmentado sugiere que la aplicación de la ley es selectiva y no integral, lo que deja a los usuarios vulnerables a la explotación.
