Grok, AI yang Tidak Netral, dan Budaya Pemerkosaan di Ruang Digital

Belakangan, lini masa ramai membicarakan “penelanjangan digital”, di mana foto-foto orang, terutama perempuan, diubah, direkayasa, atau “ditelanjangi” secara non-konsensual dengan bantuan fitur dan alat berbasis artificial intelligence (AI), lalu beredar cepat di platform seperti X. Respons publik pun terbelah. Ada yang menilai pemblokiran fitur Grok oleh pemerintah Indonesia adalah langkah cepat yang perlu, ada juga yang mengingatkan bahwa memblokir satu pintu tidak otomatis menjamin keamanan di internet. 

Perdebatan itu penting, tetapi ada risiko ketika percakapan berhenti pada soal platform, fitur, atau “keselamatan digital” semata. Sebab, “nudifikasi algoritmik” bukan sekadar kecanggihan teknis. Ia adalah gejala yang tumbuh dari lingkungan sosial yang sudah lama memberi ruang bagi kekerasan berbasis gender, dan kini menemukan akselerator baru lewat teknologi.

Untuk memahami akarnya, kita perlu menyebut dengan jelas istilah yang sering terdengar, tetapi tidak selalu dipahami, yakni budaya pemerkosaan. Secara sederhana, Sederhananya, ini adalah lingkungan sosial di mana kekerasan seksual mengakar dan dinormalisasi—di media, budaya populer, dan interaksi sehari-hari—sering kali (meski tidak eksklusif) dalam masyarakat patriarkal dengan relasi gender timpang dan kesetaraan yang lemah.

Budaya ini tidak selalu muncul sebagai tindak kriminal yang gamblang. Ia justru hidup lewat hal-hal yang dianggap “lumrah”: tubuh perempuan yang terus diobjektifikasi, perempuan dinilai terutama dari penampilan, lelucon yang meremehkan pemerkosaan, atau bahasa yang menghaluskan “memperkosa” menjadi “menggagahi” atau “menodai”. Ia juga tampak dalam sistem dan praktik penanganan kasus yang tidak berpihak pada korban—dari perangkat hukum hingga respons aparat yang minim empati—hingga penyintas enggan mencari keadilan. Di ujungnya, stigma menempel pada korban sebagai “perempuan ternoda”, seolah yang harus menanggung malu adalah korban, bukan pelaku.

Dalam lanskap seperti itu, teknologi—termasuk AI—tidak sekadar hadir sebagai alat netral. Ia dapat menjadi manifestasi sekaligus penguat dari kekerasan berbasis gender yang sudah ada. Penelanjangan digital, pada titik ini, lebih tepat dibaca sebagai puncak gunung es: bentuk baru dari praktik lama, dengan skala sebar dan kecepatan yang jauh lebih besar.

Baca juga: Grok Menelanjangi Orang-orang di X dan KBGO yang “Disengaja” Platform?

Teknologi tidak pernah benar-benar netral

Perkembangan teknologi sering digambarkan sebagai sesuatu yang alami atau bebas nilai, seolah seluruhnya lahir dari sains dan matematika semata. Padahal, teknologi adalah produk keputusan manusia. Setiap produk teknologi membawa jejak politik-ekonomi yang sangat konkret—proyek mana yang disetujui, berapa modal yang mengalir, target pasar apa yang dikejar, dan kepentingan siapa yang dijaga.

Dalam kerangka itu, kemunculan berbagai produk generatif AI—dari chatbot hingga alat manipulasi gambar—bukan sekadar “kemajuan”. Ia juga bagian dari logika perusahaan teknologi: mengejar keuntungan, ekspansi, pengaruh, dan posisi dominan dalam kompetisi. Produk didorong untuk menang, mengunci pengguna, dan memperluas kendali atas infrastruktur informasi.

Masalahnya, keputusan strategis di puncak industri ini kerap diambil oleh segelintir orang dengan posisi sosial-ekonomi yang jauh dari pengalaman mayoritas pengguna, termasuk pengalaman perempuan yang menjadi sasaran kekerasan berbasis gender di ruang digital. Ketika kepentingan bisnis bergerak lebih cepat daripada mekanisme pencegahan risiko, yang menjadi korban biasanya adalah kelompok yang sejak awal sudah rentan.

Teknologi AI juga tidak muncul dalam ruang hampa, melainkan hadir di tengah konteks sosial yang sudah bertingkat-tingkat. Teknologi yang lahir dari suatu masyarakat cenderung merekam nilai-nilai masyarakat itu—baik atau buruk—lalu mengamplifikasinya lewat skala dan otomatisasi. Dalam masyarakat yang patriarkal, corak teknologi yang hadir pun mudah “terwarnai” oleh patriarki.

Dalam masyarakat dengan budaya pemerkosaan, tidak sulit membayangkan bagaimana misogini dan seksisme terbawa, secara sadar maupun tidak, ke dalam cara berpikir para pembuatnya—insinyur, pemrogram, manajer, pengusaha, hingga pembuat kebijakan di perusahaan. Ia bisa masuk bukan hanya melalui “isi” yang dibuat, tetapi juga melalui fitur yang dipilih, risiko yang diabaikan, serta kebijakan moderasi yang tidak sensitif pada dampak kekerasan berbasis gender.

Kehadiran nudifikasi algoritmik, misalnya, mungkin bukan sesuatu yang “direncanakan” oleh semua orang di perusahaan. Namun ia bisa muncul karena tidak ada yang merasa perlu memikirkan potensi bahayanya, atau karena bahaya itu dianggap sebagai “biaya samping” yang dapat ditangani belakangan. Teknologi, dalam pengertian ini, tidak serta-merta membuat laki-laki menjadi seksis atau agresor; teknologi hanya mempermudah dan mempercepat tindakan mereka yang sudah terbentuk oleh budaya pemerkosaan.

Di titik inilah diskusi tentang pemblokiran fitur menjadi terasa kurang memadai jika berdiri sendiri. Ia mungkin perlu sebagai respons cepat, tetapi tidak menyentuh persoalan yang lebih dalam: ekosistem yang memungkinkan kekerasan itu terjadi, dianggap biasa, lalu berulang.

Baca juga: Pengalaman Saya Ngobrol Seksualitas dengan 3 AI: Lebih Banyak Jawaban Ngawurnya

Data, bias, dan normalisasi perempuan sebagai objek

Kecerdasan buatan dilatih menggunakan jutaan bahkan miliaran data untuk membaca pola dan menghasilkan keluaran. Persoalannya, masyarakat patriarkal melahirkan data yang juga bias terhadap perempuan. Budaya pemerkosaan menghasilkan limpahan teks, foto, dan video yang mengobjektifikasi tubuh perempuan, mulai dari candaan seksis, konten cabul, hingga eksploitasi seksual. Semua itu hidup di internet, lalu menjadi “bahan” yang dapat diambil untuk melatih sistem AI.

Akibatnya, tidak mengherankan bila perempuan lebih sering menjadi korban pornografi deepfake dan kini nudifikasi digital. Bukan semata karena teknologi “memilih” korban, melainkan karena ekosistem data objektifikasi perempuan memang lebih banyak, lebih mudah ditemukan, dan lebih dinormalisasi. Dalam logika mesin, yang melimpah akan lebih mudah dipelajari, dan dalam logika sosial, yang dinormalisasi akan lebih mudah dibiarkan.

Normalisasi itu juga tercermin dalam hal-hal yang kerap dianggap remeh, tetapi sesungguhnya membentuk kebiasaan. Bagaimana, misalnya, personifikasi teknologi sebagai “asisten” dengan suara perempuan pada berbagai perangkat digital. Di Indonesia, kita juga melihat bagaimana institusi negara tidak canggung meluncurkan sistem digital dengan nama-nama yang mengobjektifikasi perempuan. Misalnya, Kementerian Komunikasi dan Digital (Komdigi) meluncurkan aplikasi layanan perizinan berbasis cloud disebut SiCantik. Lalu Pemprov Kalimantan Selatan yang membuat Sistem Integrasi Kelapa Sawit-Sapi Berbasis Kemitraan Usaha Ternak Inti Plasma (Siska Ku Intip), dan Pemkot Surakarta yang membuat Sistem Monitoring Stok dan Kebutuhan Pangan (Simontok).

Hal-hal semacam ini sering dilewatkan sebagai humor, kreativitas, atau sekadar akronim. Namun ia mengungkap bagaimana perempuan sebagai “asisten”, dan perempuan sebagai “objek”, telah dinormalisasi melalui interaksi digital sehari-hari. Ketika normalisasi itu bertemu alat yang mampu memanipulasi tubuh dan wajah secara otomatis, jarak dari “lelucon” menuju kekerasan menjadi makin pendek.

Baca juga: Jurnalisme di Persimpangan AI: Ancaman Ekonomi hingga Etika Redaksi 

Kita butuh tata kelola internet yang feminis

Kita tetap punya harapan. Ruang-ruang yang membicarakan internet dari kacamata feminis sudah hadir, seperti PurpleCode dan Awas KBGO SAFEnet, dan bisa jadi ada banyak komunitas lain dengan semangat serupa. Kerja-kerja kolaboratif dan interseksional antara aktivis gender dan aktivis internet perlu diperbanyak agar pembacaan atas teknologi tidak berhenti pada permukaan fitur, melainkan menyentuh relasi kuasa yang melatarinya.

Namun tanggung jawab terbesar tetap berada pada negara. Penyelenggara negara berkewajiban menjamin keselamatan warganya di internet. Fenomena nudifikasi digital seharusnya menjadi peringatan bagi Kementerian Komdigi untuk menggandeng Komisi Nasional Anti-Kekerasan Terhadap Perempuan dan kelompok feminis dalam merumuskan tata kelola internet yang lebih komprehensif.

Kita membutuhkan tata kelola yang tidak hanya memblokir fitur atau platform setelah sesuatu terjadi. Kita memerlukan pendekatan yang mencegah sejak awal, menindak pelaku kekerasan seksual dan pelaku penyebaran konten nonkonsensual, serta memutus siklus normalisasi budaya pemerkosaan di jagat digital. Jika budaya pemerkosaan adalah lingkungan yang membuat kekerasan seksual tampak “biasa”, maka tugas kebijakan adalah membangun lingkungan kebalikannya, yakni ruang yang percaya pada korban, melindungi yang rentan, dan menutup celah impunitas—bukan sekadar menambal kerusakan setelah terlambat.

Pada akhirnya, penelanjangan digital bukan hanya soal kecanggihan AI, melainkan soal siapa yang paling rentan dikorbankan ketika teknologi didorong melaju tanpa rem etis yang memadai. Karena itu, pertanyaan kita seharusnya tidak berhenti pada “fitur mana yang harus diblokir”, melainkan struktur apa yang membuat kekerasan ini dianggap wajar, dan bagaimana teknologi ikut melanggengkannya.

Rio Tuasikal adalah jurnalis dengan 12 tahun pengalaman dalam meliput isu politik, sosial, dan teknologi. Menamatkan kajian media di Goldsmiths, University of London, dengan tesis mengenai transpuan dan media sosial. 

Ilustrasi oleh Karina Tungari