Grok AI, alat kecerdasan buatan besutan xAI milik Elon Musk, kini menjadi sorotan tajam setelah fiturnya dimanfaatkan untuk memanipulasi foto perempuan secara masif tanpa persetujuan. Komnas Perempuan mencatat lonjakan kasus Kekerasan Berbasis Gender Online (KBGO) sebesar 40,8 persen dibandingkan tahun 2024, sementara SAFEnet merekam 605 insiden KBGO hanya pada triwulan III 2025. Fenomena ini memantik perdebatan serius tentang tanggung jawab pengembang teknologi dan perlindungan hak perempuan di ruang digital.
Desain yang Gagal Mencegah Penyalahgunaan
Jurnalis Antonia Timmerman menyebut kasus ini mengecewakan sekaligus bisa diprediksi. Menurutnya, para pengembang Grok seharusnya memasang pengaman sebelum fitur tersebut diluncurkan ke publik, bukan setelah korban berjatuhan. Timmerman juga mengingatkan bahwa AI dapat dengan mudah digunakan untuk peniruan identitas dan pencurian data pribadi, menjadikan ancaman ini jauh lebih luas dari sekadar manipulasi visual.
Aneira Khansa, seorang beauty content creator, mengungkapkan frustrasinya setelah berbagai upaya melindungi fotonya dari penyalahgunaan Grok tetap tidak membuahkan hasil. Baginya, yang paling menyakitkan bukan hanya gambar yang dimanipulasi, melainkan hilangnya kendali atas citra diri. Ia bahkan menyerukan penutupan sementara fitur tersebut hingga ada jaminan keamanan yang memadai.
Lebih dari Sekadar Penyalahgunaan
Sosiolog AI dan gender, Sheilla Njoto, memberikan perspektif lebih tajam. Ia menolak framing bahwa kasus ini sekadar penyalahgunaan teknologi. Menurutnya, ini adalah hasil yang sudah bisa diramalkan dari sistem yang dibangun tanpa memprioritaskan pencegahan kerugian. AI tidak menciptakan kekerasan terhadap perempuan, melainkan mengotomatiskannya dan memperbesarnya. Risiko seperti ini telah diketahui dan didokumentasikan jauh sebelum Grok diluncurkan.
Njoto juga menyoroti dimensi kehilangan agensi: ketika kemiripan seseorang bisa direplikasi dan disebarluaskan tanpa izin kapan saja, hal itu secara permanen mengubah cara seseorang berada di dunia digital. Kesadaran bahwa gambar manipulatif bisa dibuat kapan saja sudah cukup untuk menimbulkan trauma dan pembungkaman diri.
Tanggung Jawab Harus Bergeser ke Pengembang dan Negara
Ketiga narasumber sepakat bahwa tanggung jawab tidak boleh lagi dibebankan kepada korban. Mereka mendorong reformasi sistemik: penilaian risiko wajib sebelum deployment teknologi AI, hak individu untuk menolak identitasnya dijadikan bahan pelatihan AI, serta tanggung jawab hukum bagi platform atas kerugian yang seharusnya bisa dicegah. Penguatan regulasi perlindungan data digital dinilai mendesak agar Grok AI dan platform serupa tidak terus menjadi alat yang merugikan perempuan tanpa konsekuensi hukum yang jelas.