Платформа X Ілона Маска запровадила нові обмеження, щоб запобігти створенню відвертих зображень реальних людей, особливо у відвертому одязі. Цей крок став слідом за широким засудженням Grok, чат-бота зі штучним інтелектом X, за допомогу у створенні тисяч шкідливих і неконсенсусних зображень із зображенням «роздягання», включно з зображеннями неповнолітніх.
Однак, незважаючи на обмеження, накладені на саму платформу X, незалежне тестування показує, що окремий додаток і веб-сайт Grok все ще здатні генерувати відвертий контент сексуального характеру та видаляти зображення. Дослідники з AI Forensics підтверджують, що вони все ще можуть створювати зображення оголеного тіла через Grok.com, а тестування WIRED продемонструвало, що система може видаляти одяг із зображень чоловіків без обмежень. Сама програма Grok запитує у користувачів рік їхнього народження, перш ніж генерувати такий контент.
Ця невідповідність підкреслює критичну проблему: хоча X, здається, посилює контроль над створенням зображень на своїй платформі, користувачі можуть обійти ці обмеження через спеціальний інтерфейс Grok. Це свідчить про фрагментарну стратегію застосування, яка дозволяє поширювати шкідливий вміст поза межами прямого контролю X.
Розслідування в кількох країнах, включаючи США, Австралію та Велику Британію, вже засудили Х і Грока за сприяння створенню інтимних зображень без згоди. Великобританія, зокрема, активно досліджує ці платформи.
X стверджує, що запровадив технологічні заходи та геоблокування, щоб запобігти створенню відвертих зображень у юрисдикціях, де це незаконно. Однак постійне створення відвертого контенту на автономних платформах Grok підриває ці заяви. Маск також публічно заявив, що «Епічний режим» дозволяє показувати оголену верхню частину тіла вигаданих дорослих, представляючи це як відповідність стандартам контенту з рейтингом R.
Генеративні системи штучного інтелекту вже давно вразливі до обходу, коли користувачі використовують «обхідні шляхи», щоб обійти заходи безпеки. Хоча системи OpenAI і Google мають подібні вразливості, відкритий характер інтерфейсу Grok робить його особливо сприйнятливим до експлуатації.
Користувачі порнографічних форумів повідомляють про неоднозначні результати: деякі успішно генерують оголений контент, а інші піддаються суворішій модерації. Постійна гра в кішки-мишки між розробниками та користувачами підкреслює складність повного контролю над контентом, створеним ШІ.
“Реальність така, що заходи безпеки настільки ж ефективні, як і їх застосування. Якщо платформа допускає лазівки, зловмисники ними скористаються”.
Зрештою, хоча X вжив заходів для вирішення негайного обурення, постійна доступність відвертого вмісту на офлайн-платформах Grok викликає серйозні сумніви щодо зобов’язань компанії запобігати зловживанням. Фрагментований підхід припускає, що правозастосування є вибірковим, а не всеосяжним, що робить користувачів вразливими до експлуатації.
