Platform X milik Elon Musk telah menerapkan batasan baru untuk mencegah pembuatan gambar eksplisit dari orang sungguhan, terutama mereka yang mengenakan pakaian terbuka. Langkah ini menyusul kecaman luas terhadap Grok, chatbot AI milik X, karena memfasilitasi pembuatan ribuan gambar “melepaskan pakaian” yang berbahaya dan tidak berdasarkan persetujuan, termasuk gambar yang menggambarkan anak di bawah umur.
Namun, meskipun pembatasan kini diberlakukan pada X itu sendiri, pengujian independen menunjukkan bahwa aplikasi dan situs web Grok yang berdiri sendiri tetap mampu menghasilkan konten seksual eksplisit dan gambar bergaya “menanggalkan pakaian”. Para peneliti di AI Forensics mengonfirmasi bahwa mereka masih dapat membuat gambar telanjang melalui Grok.com, sementara pengujian WIRED menunjukkan bahwa sistem dapat menghilangkan pakaian dari gambar pria tanpa batasan. Aplikasi Grok sendiri menanyakan tahun lahir pengguna sebelum membuat konten tersebut.
Ketidakkonsistenan ini menyoroti masalah kritis: meskipun X tampaknya menindak pembuatan gambar dalam platformnya, pengguna dapat melewati batasan ini melalui antarmuka khusus Grok. Hal ini menunjukkan adanya strategi penegakan hukum yang terfragmentasi, yang memungkinkan konten berbahaya berkembang biak di luar pengawasan langsung X.
Investigasi di berbagai negara—termasuk Amerika Serikat, Australia, dan Inggris—telah mengecam X dan Grok karena memungkinkan terciptanya gambar intim yang tidak bersifat konsensual. Inggris, khususnya, secara aktif menyelidiki platform tersebut.
X mengklaim telah menerapkan langkah-langkah teknologi dan pemblokiran geografis untuk mencegah pembuatan gambar terbuka di yurisdiksi yang ilegal. Namun, masih adanya pembuatan konten eksplisit pada platform mandiri Grok melemahkan klaim tersebut. Musk juga secara terbuka menyatakan bahwa “mode pedas” memungkinkan ketelanjangan tubuh bagian atas dari orang dewasa imajiner, dan menganggapnya konsisten dengan standar konten berperingkat R.
Sistem AI generatif telah lama rentan terhadap bypass, karena pengguna menggunakan “jailbreak” untuk menghindari tindakan keamanan. Meskipun sistem OpenAI dan Google memiliki kerentanan serupa, sifat antarmuka Grok yang terbuka membuatnya sangat rentan terhadap eksploitasi.
Pengguna di forum pornografi melaporkan hasil yang beragam, beberapa berhasil menghasilkan konten telanjang sementara yang lain mengalami moderasi yang lebih ketat. Permainan kucing-dan-tikus yang sedang berlangsung antara pengembang dan pengguna menyoroti sulitnya mengendalikan sepenuhnya konten yang dihasilkan AI.
“Kenyataannya adalah bahwa langkah-langkah keamanan hanya akan efektif jika ada penegakan hukum yang mendasarinya. Jika sebuah platform membiarkan celah tersebut, pelaku jahat akan mengeksploitasinya.”
Pada akhirnya, meskipun X telah mengambil langkah-langkah untuk mengatasi kemarahan yang ada, ketersediaan konten eksplisit yang terus berlanjut di platform mandiri Grok menimbulkan pertanyaan serius tentang komitmen perusahaan untuk mencegah penyalahgunaan. Pendekatan yang terfragmentasi ini menunjukkan bahwa penegakan hukum bersifat selektif dibandingkan komprehensif, sehingga membuat pengguna rentan terhadap eksploitasi.
