Platforma X Elona Muska wprowadziła nowe ograniczenia, które mają zapobiec tworzeniu jednoznacznych wizerunków prawdziwych ludzi, szczególnie w przypadku odsłaniającego ubrania. Posunięcie to jest następstwem powszechnego potępienia Groka, chatbota opartego na sztucznej inteligencji firmy X, za pomoc w tworzeniu tysięcy szkodliwych i nielegalnych obrazów „rozbieranych”, w tym obrazów rzekomo przedstawiających nieletnich.
Jednak pomimo ograniczeń nałożonych na samą Platformę X, niezależne testy pokazują, że samodzielna aplikacja i witryna Grok nadal są w stanie generować treści o charakterze jednoznacznie seksualnym i usuwać obrazy. Badacze z AI Forensics potwierdzają, że nadal mogą generować nagie zdjęcia za pośrednictwem Grok.com, a testy WIRED wykazały, że system może bez ograniczeń usuwać ubrania ze zdjęć mężczyzn. Sama aplikacja Grok pyta użytkowników o rok urodzenia przed wygenerowaniem takich treści.
Ta niespójność uwypukla kluczową kwestię: chociaż X wydaje się zaostrzać kontrolę nad generowaniem obrazów na swojej platformie, użytkownicy mogą ominąć te ograniczenia za pomocą specjalnego interfejsu Grok. Sugeruje to fragmentaryczną strategię egzekwowania prawa, która umożliwia rozprzestrzenianie się szkodliwych treści poza bezpośrednim nadzorem X.
Dochodzenia prowadzone w kilku krajach, w tym w USA, Australii i Wielkiej Brytanii, skazały już X i Groka za ułatwianie robienia intymnych zdjęć bez ich zgody. Szczególnie Wielka Brytania aktywnie bada te platformy.
X twierdzi, że wdrożył środki technologiczne i blokowanie geograficzne, aby zapobiec tworzeniu wulgarnych obrazów w jurysdykcjach, w których jest to nielegalne. Jednak ciągłe generowanie treści dla dorosłych na niezależnych platformach Groka podważa te twierdzenia. Musk oświadczył również publicznie, że „Tryb epicki” pozwala na nagość górnej części ciała fikcyjnych dorosłych, przedstawiając ją jako spełniającą standardy treści z oceną R.
Systemy generatywnej sztucznej inteligencji od dawna są podatne na obejścia, a użytkownicy stosują „obejścia” w celu ominięcia środków bezpieczeństwa. Chociaż systemy OpenAI i Google mają podobne luki w zabezpieczeniach, otwarty charakter interfejsu Groka czyni go szczególnie podatnym na wykorzystanie.
Użytkownicy forów poświęconych tematyce pornograficznej zgłaszają mieszane wyniki – niektórym udało się wygenerować treści nagie, podczas gdy inne podlegają bardziej rygorystycznej moderacji. Trwająca gra w kotka i myszkę pomiędzy programistami a użytkownikami uwypukla trudność uzyskania pełnej kontroli nad treściami generowanymi przez sztuczną inteligencję.
“Rzeczywistość jest taka, że środki bezpieczeństwa są tak skuteczne, jak ich egzekwowanie. Jeśli platforma dopuszcza luki, napastnicy je wykorzystają. “
Ostatecznie, choć X podjął kroki, aby zaradzić natychmiastowemu oburzeniu, ciągła dostępność treści dla dorosłych na platformach offline Groka rodzi poważne pytania dotyczące zaangażowania firmy w zapobieganie nadużyciom. Fragmentaryczne podejście sugeruje, że egzekwowanie prawa ma charakter selektywny, a nie kompleksowy, przez co użytkownicy są podatni na wyzysk.
