Platforma X Elona Muska zavedla nová omezení, aby zabránila vytváření explicitních obrázků skutečných lidí, zejména při odhalování oblečení. Tento krok následuje po širokém odsouzení Groka, AI chatbota X, za to, že pomáhal vytvářet tisíce škodlivých a nekonsensuálních „strip“ obrázků, včetně obrázků údajně nezletilých.
Navzdory omezením uloženým na samotné platformě X však nezávislé testování ukazuje, že samostatná aplikace Grok a webové stránky jsou stále schopny generovat sexuálně explicitní obsah a odstraňovat obrázky. Výzkumníci z AI Forensics potvrzují, že stále mohou generovat nahé obrázky prostřednictvím Grok.com, zatímco testování WIRED prokázalo, že systém dokáže odstranit oblečení z obrázků mužů bez omezení. Samotná aplikace Grok se před vygenerováním takového obsahu ptá uživatelů na rok jejich narození.
Tato nekonzistence upozorňuje na kritický problém: zatímco se zdá, že X zpřísňuje kontroly generování obrázků v rámci své platformy, uživatelé mohou tato omezení obejít pomocí speciálního rozhraní Grok. To naznačuje fragmentovanou strategii prosazování, která umožňuje šíření škodlivého obsahu mimo přímý dohled X.
Vyšetřování v několika zemích, včetně USA, Austrálie a Spojeného království, již X a Groka usvědčilo z napomáhání nekonsensuálních intimních snímků. Zejména Spojené království tyto platformy aktivně vyšetřuje.
X tvrdí, že zavedl technologická opatření a geografické blokování, aby zabránil generování explicitních obrázků v jurisdikcích, kde je to nezákonné. Pokračující generování explicitního obsahu na samostatných platformách Grok však tato tvrzení podkopává. Musk také veřejně prohlásil, že „Epic Mode“ umožňuje nahotu horní části těla fiktivních dospělých, čímž to prezentuje jako splňující standardy obsahu s hodnocením R.
Systémy generativní umělé inteligence jsou již dlouho náchylné k obcházení, přičemž uživatelé používají „náhradní řešení“ k obcházení bezpečnostních opatření. Zatímco systémy OpenAI a Google mají podobné zranitelnosti, otevřená povaha rozhraní Groka jej činí zvláště náchylným k zneužití.
Uživatelé na pornografických fórech hlásí smíšené výsledky, přičemž někteří úspěšně generují nahý obsah, zatímco jiní čelí přísnějšímu moderování. Probíhající hra kočky a myši mezi vývojáři a uživateli zdůrazňuje obtížnost úplné kontroly nad obsahem generovaným umělou inteligencí.
“Skutečnost je taková, že bezpečnostní opatření jsou jen tak účinná, jak efektivní je jejich prosazování. Pokud platforma umožňuje mezery, útočníci je zneužijí.”
Nakonec, zatímco X podnikla kroky k vyřešení okamžitého pobouření, pokračující dostupnost explicitního obsahu na offline platformách Grok vyvolává vážné otázky o odhodlání společnosti předcházet zneužití. Roztříštěný přístup naznačuje, že vymáhání je spíše selektivní než komplexní a ponechává uživatele zranitelné vůči zneužití.
