Платформа X Илона Маска внедрила новые ограничения для предотвращения создания откровенных изображений реальных людей, особенно в обнажающей одежде. Этот шаг последовал за широким осуждением Grok, ИИ-чат-бота X, за содействие в создании тысяч вредоносных и неконсенсусных изображений «раздевания», включая изображения, предположительно, несовершеннолетних.
Однако, несмотря на введенные ограничения на самой платформе X, независимое тестирование показывает, что автономное приложение Grok и веб-сайт по-прежнему способны генерировать сексуально откровенный контент и изображения в стиле «раздевания». Исследователи из AI Forensics подтверждают, что они все еще могут создавать обнаженные изображения через Grok.com, в то время как тестирование WIRED продемонстрировало, что система может снимать одежду с изображений мужчин без ограничений. Само приложение Grok запрашивает у пользователей год их рождения перед генерацией такого контента.
Эта непоследовательность подчеркивает критическую проблему: в то время как X, похоже, ужесточает контроль над генерацией изображений в рамках своей платформы, пользователи могут обходить эти ограничения через специальный интерфейс Grok. Это говорит о фрагментированной стратегии правоприменения, позволяющей вредоносному контенту распространяться вне прямого надзора X.
Расследования, проведенные в нескольких странах, включая США, Австралию и Великобританию, уже осудили X и Grok за содействие в создании неконсенсусных интимных изображений. Великобритания, в частности, активно расследует эти платформы.
X утверждает, что внедрила технологические меры и географические блокировки для предотвращения генерации откровенных изображений в юрисдикциях, где это незаконно. Однако сохранение генерации откровенного контента на автономных платформах Grok подрывает эти заявления. Маск также публично заявил, что «острый режим» позволяет обнажать верхнюю часть тела вымышленных взрослых, представляя это как соответствующее стандартам контента с рейтингом R.
Генеративные ИИ-системы уже давно уязвимы для обхода, когда пользователи используют «обходные пути» для обхода мер безопасности. В то время как системы OpenAI и Google имеют аналогичные уязвимости, открытый характер интерфейса Grok делает его особенно восприимчивым к эксплуатации.
Пользователи на порнографических форумах сообщают о смешанных результатах: некоторые успешно генерируют обнаженный контент, в то время как другие сталкиваются с более строгой модерацией. Продолжающаяся игра в кошки-мышки между разработчиками и пользователями подчеркивает трудность полного контроля над контентом, созданным ИИ.
«Реальность такова, что меры безопасности эффективны только настолько, насколько эффективны меры их обеспечения. Если платформа допускает лазейки, злоумышленники будут ими пользоваться».
В конечном счете, хотя X и предприняла шаги для устранения немедленного возмущения, продолжение доступности откровенного контента на автономных платформах Grok вызывает серьезные вопросы о приверженности компании предотвращению злоупотреблений. Фрагментированный подход предполагает, что правоприменение является выборочным, а не всеобъемлющим, оставляя пользователей уязвимыми для эксплуатации.
