AI Ini Produksi Puluhan Konten Seksual Tanpa Consent… Setiap Satu Menit!

Peringatan: Konten sensitif, membahas kekerasan seksual

‘Tren bikini Grok’ mengguncang jagat X di awal tahun ini. Pengguna ramai membuat prompt yang melecehkan, menggunakan artificial intelligence (AI) tersebut untuk mengedit foto perempuan-perempuan dan bahkan anak-anak secara seksual dan tentunya non-konsensual. Kini, Indonesia menjadi negara pertama di dunia yang memblokir AI yang dikembangkan Elon Musk tersebut - hanya untuk sementara saja.

Media sosial di Indonesia memang jauh dari ruang aman buat perempuan, dan di deep web, AI pun sebenarnya sudah disalahgunakan untuk kekerasan seksual digital sejak sekitar 2017. Kenapa harus menunggu sampai deepfake dinormalisasi di X, medsos yang mainstream, sebelum pemerintah di seluruh dunia, serta polisi kita membuat regulasi untuk membendungnya?

Apa itu ‘Tren Bikini Grok’?

Tren ini sebenarnya sudah mulai di akhir 2025. Pada bulan Desember, beberapa kreator konten dewasa mulai menginstruksikan Grok, AI yang terintegrasi di X, untuk mengedit foto berbusana yang mereka post, meminta chatbot yang dikembangkan xAI Elon Musk tersebut untuk “put her in a bikini”. Dalam hitungan detik, Grok melakukannya - ‘menelanjangi’ mereka secara digital. 

Melihat betapa gampangnya untuk meminta Grok membuat deepfake, pengguna lain mulai meminta Grok untuk mengedit foto-foto selebritis dan influencer secara seksual. Tapi lama kelamaan, tidak hanya figur publik saja yang menjadi korban, post dari pengguna biasa hingga orang-orang random tak dikenal pun menjadi target dari gelombang pelecehan seksual digital – dan masif – ini. 

Dengan Grok, di X Kekerasan Seksual Digital Deepfake Masuk Mainstream

X dan Grok gratis dan gampang untuk digunakan semua. Kekerasan seksual berbasis gambar ini dilakukan secara terbuka, terpapar untuk semua di jagad media sosial. Mengambil data dari X, analisa yang dilakukan akhir-akhir ini pun menunjukkan betapa maraknya fenomena ini:

• Menurut analisa dari WIRED, mereka menemukan bahwa Grok bisa membuat sekitar 90 konten seksual, non-konsensual berbeda dalam rentan waktu lima menit saja.

• Data lain yang dilansir oleh The Atlantic menunjukkan bahwa dalam jenjang waktu sekitar 24 jam, Grok rata-rata membuat satu editan yang melecehkan setiap menitnya. 

Siapa sangka, mesin AI yang memang ada fitur Grok Imagine dengan mode “spicy” yang membolehkan pembuatan konten seksual ternyata berbahaya saat diintegrasi di salah satu media sosial paling populer di dunia. Tanda-tandanya sudah terlihat, tapi industri AI tetap terdiam.

PBB: AI Memperdaya Kekerasan Seksual Pada Perempuan di Seluruh Dunia

Ini bukan fenomena baru. Laporan terkait penyalahgunaan AI untuk pelecehan seksual digital, bahkan terhadap anak-anak juga, sudah hadir sejak 2017. Menurut para pakar, dalam enam tahun terakhir, mesin-mesin pembuat deepfake sudah semakin canggih dan gampang diakses.

• 90 hingga 95% dari semua deepfake (konten palsu yang dimanipulasi AI dari foto atau video asli) merupakan konten seksual dan non-konsensual. (PBB, 2025)

• Sekitar 90% korban dari konten tersebut adalah perempuan. Jumlah konten deepfake pun sudah naik drastis - sebanyak 550% Dari 2019 hingga 2023. (PBB, 2025)

Bahkan PBB pun menyatakan bahwa AI sebenarnya memperdaya kekerasan terhadap perempuan, alih-alih membantu menanggulanginya. Riset mereka menemukan bahwa sekitar 16 hingga 58% perempuan di seluruh dunia terdampak oleh kekerasan seksual digital. Namun kurang dari 40% negara yang sudah membuat kebijakan melawan kejahatan siber seperti ini.

Maraknya ‘Tren Bikini’ Bukti Bahwa Indonesia Memang Darurat Kekerasan Seksual 

Namun jauh sebelum ‘tren bikini AI’ serta deepfake, media sosial di Indonesia memang minim ruang aman untuk perempuan. 2024 menjadi tahun dengan kasus kekerasan berbasis gender online (KBGO) terbanyak dalam sejarah, mencatat 1,791 kasus, naik drastis (40,8%) dari 2024. Bukan isu baru, fenomena Grok ini semakin menormalisasi kekerasan online pada perempuan.

Dan ini hanya yang dilaporkan saja – riset Indonesian Judicial Research Society pada tahun 2023 menyatakan bahwa 52% dari korban kekerasan seksual enggan melaporkanya. Dengan popularitas AI, angka kasus akan naik, dan tanpa kejelasan seputar hukum seputarnya, tentunya semakin sulit untuk korban-korban untuk melaporkan kejahatan yang dilakukan.

Tentunya X atau Grok hanya sebuah perantara, bahkan kini jadi senjata. Kalau budaya misoginis tidak dilawan dan masih saja dinormalisasi online atau offline, seperti ini hasilnya.

Pemerintah Seluruh Dunia Kini Bergegas Melawannya. Kenapa Baru Sekarang?

Setelah ‘tren bikini Grok’ mendunia, negara-negara pun cepat untuk mencoba membasminya. India, Prancis dan Malaysia sudah mengambil langkah atau melakukan penyelidikan terhadap fenomena ini, termasuk meminta X untuk bertindak. Pemerintah dan polisi Indonesia pun juga:

• Komdigi sudah mengancam untuk blokir Grok di Indonesia, dan menyebut bahwa deepfake yang dibuat oleh AI tersebut di X merupakan pelanggaran privasi.

• Bareskrim pun sudah menyebut bahwa memanipulasi digital dengan Grok bisa dipidana.

Sejak pertama mendunia, AI memang jelas mengancam keselamatan perempuan. Kekerasan seksual AI terhadap perempuan dan anak-anak sudah ramai di remang-remang deep web. Kini sudah jadi mainstream, baru ada upaya drastis, kolektif, untuk membendung dan meregulasi.

Langkah-Langkah Untuk Melawan Kekerasan Seksual Berbasis AI

Harus ada yang berubah dalam pemikiran publik bukan hanya terhadap Grok dan AI, tapi juga terhadap budaya misogini yang dengan ‘tren bikini Grok’ ini, terlihat seberapa mendalamnya.

• Pemerintah Indonesia, dan negara-negara dunia, harus mengambil langkah untuk meregulasi industri AI dan peranya dalam kehidupan kita. Dampak serta bahaya AI kepada perempuan dan komunitas marjinal lainnya harus lebih didalami, dan di mitigasi.

• Tidak hanya harus hadir lebih banyak edukasi publik untuk melawan kekerasan seksual, tapi program-program ini harus berjalan bersama peningkatan literasi digital dan terhadap AI. Hukum-hukum seputar KBGO, apalagi yang menggunakan AI, juga harus diperjelas dan dihadirkan sistem pelaporan yang lebih gampang diakses oleh korban.

Bergegas Masuk Dunia Yang Diperdaya AI, Melupakan Mereka Yang Jadi Korbanya

Fenomena ini menjadi pengingat atas bahayanya membiarkan industri AI merajalela. Dari dampaknya terhadap lapangan pekerjaan, serta kini dengan bagaimana AI memberdayakan kekerasan perempuan, terlihat jelas bahwa peran AI dalam kehidupan sehari-hari kita belum dipikirkan matang-matang bukan hanya oleh para pembuatnya, tapi juga para pemangku kekuasaan. 

Yang jelas, malapetaka ‘tren bikini Grok’ di negara kita adalah hasil dari benturan antara kritisnya literasi digital dengan keadaan darurat kekerasan seksual Indonesia. Kedua isu ini sudah diabaikan untuk terlalu lama. Kini keduanya di-expose besar-besaran oleh keberadaan AI, pemerintah harus bergerak cepat untuk melawannya, sebelum hadir tren berbahaya selanjutnya.