Menuntut Pertanggungjawaban Platform untuk Penyebaran Konten Intim Non-Konsensual
Media sosial bisa dan harus menciptakan ekosistem yang lebih melindungi perempuan.
Bulan Mei lalu, saya ikut meramaikan perayaan Women’s March Jakarta 2023. Satu poster menarik perhatian saya, tulisannya: “Bokep lokal di Twitter isinya banyak Revenge Porn dan kalian masih tega nonton? Huft.” Memang, sepanjang tahun, kasus demi kasus penyebaran konten intim non-konsensual atau non-consensual dissemination of intimate image (NCII) bermunculan dan dialami perempuan. Tak melulu di Twitter, melainkan juga melalui beragam platform media sosial maupun situs porno.
Dalam catatan tahunan Komnas Perempuan tahun 2021, penyebaran konten intim tanpa persetujuan menjadi kasus Kekerasan Berbasis Gender Online (KBGO) ketiga terbanyak setelah ancaman penyebaran konten intim dan online grooming. Sementara itu, riset The Economist pada 2021 melaporkan bahwa lebih dari tiga perempat perempuan di dunia mengalami pelecehan daring, terutama perempuan muda.
Beberapa kasus penyebaran konten intim tanpa persetujuan yang menjadi perhatian publik antara lain kasus HA mahasiswi UI pada 2017, selebriti GA pada 2020, dan yang paling lawas, kasus selebriti Ariel Noah bersama dua selebriti perempuan lainnya. Kasus terbaru menimpa selebriti Rebecca Kloper yang videonya disebar oleh mantan pacarnya. Seperti kasus-kasus kekerasan seksual pada perempuan lainnya, narasi victim blaming mudah menyasar korban-korban penyebaran konten intim non-konsensual. Rebecca sebagai korban bahkan hingga harus melakukan konferensi pers permintaan maaf atas apa yang justru merugikannya.
Pada kasus-kasus seperti ini, publik, polisi hingga media biasanya akan langsung terpaku pada siapa korban dan pelaku, bahkan dengan perlakuan yang lebih banyak menyalahkan korban. Padahal, pada kejahatan yang dilakukan di ruang digital, kita juga patut menunjuk hidung platform sosial media untuk bertanggung jawab.
Platform sosial media acap gagap dalam menangani penyebaran konten intim non-konsensual. Kebanyakan korban tentu tidak seberuntung Rebecca Klopper, Gissela Anastasya, atau selebriti internasional seperti Emma Watson, Amanda Seyfried, dan Jennifer Lawrence yang bisa mengambil langkah legal. Mereka merasa tidak berdaya, tenggelam dalam depresi dan kecemasan tinggi, hingga mengurung diri seperti yang dialami Syakirah, remaja 16 tahun yang video dan fotonya tersebar pasca kehilangan HP. Platform semestinya proaktif mendorong internet menjadi tempat yang aman untuk perempuan.
Baca juga: Korban KBGO Belum Terlindungi, Desak Pemerintah Cabut Pasal Karet UU ITE
Skema Pelaporan yang Belum Berpihak pada Korban
Dalam riset yang dilakukan Facebook pada 2018 sebagai usaha memerangi penyebaran konten intim non-konsensual, korban dan kelompok advokasi mengatakan bahwa skema pelaporan yang ada masih membingungkan dan tidak sensitif pada korban, terutama dalam situasi di mana korban sedang dalam keadaan cemas dan stres tinggi. Satu-satunya cara untuk membuat konten intimnya diturunkan adalah korban perlu mengklaim hak ciptanya pada konten tersebut. Langkah ini akan terasa berbelit ketika korban dalam keadaan panik dan nyaris tak tahu harus berbuat apa.
Dari percobaan kami melaporkan sebuah konten di media sosial mencakup Instagram, Facebook, Tiktok, dan Twitter, tak ada yang menyebutkan sebuah konten mengandung “ketelanjangan tanpa persetujuan” selain Twitter. Konten-konten tersebut praktis hanya dapat dilaporkan karena melanggar ketelanjangan, bukan karena konten tersebut melibatkan korban. Dengan demikian, platform telah menurunkan derajat urgensi situasi yang dihadapi korban.
Meskipun Twitter lebih progresif dibandingkan yang lain dalam hal kejelasan penggunaan terminologi kasus, skema pelaporan Twitter masih belum sepenuhnya berpihak pada korban. Korban atau kerabat korban perlu mendorong pelaporan massal agar dapat ditindak. Artinya, mereka harus membuka identitasnya kepada publik ketika melaporkan penyalahgunaan dan rekayasa foto mereka menggunakan deepfake. Riset Amnesty Internasional yang rilis pada 2018 lalu pun menyebut bahwa Twitter masih belum mengambil tindakan yang cukup untuk melindungi perempuan dari kekerasan dan pelecehan daring lantaran tidak transparan terkait bagaimana mereka menangani pelaporan.
Sementara itu di Instagram, pelarangan konten telanjang dalam community guideline hanya untuk postingan publik. Ketiadaan community guideline pada fitur yang dianggap sebagai area privat menjadi rawan dieksploitasi. Persoalannya, penyebaran konten intim non-konsensual juga bisa dilakukan pelaku melalui Direct Message Instagram dengan menyasar relasi korban secara spesifik dan menggunakan fitur sekali lihat one click. Dalam kasus seperti ini, langkah yang tersisa untuk diambil pihak korban adalah serangkaian proses berbelit melalui kepolisian menggunakan UU ITE untuk menuntut pertanggungjawaban pelaku.
Di Tiktok, akun dengan username Rahasia Mantan menampilkan foto dan video intim singkat mahasiswi dari berbagai universitas di Indonesia dan memperjualbelikan video lanjutannya melalui platform lain. Akun yang menyebar konten yang diduga non-konsensual maupun video hasil deepfake ini ramai diperbincangkan di Twitter. Permasalahannya sama dengan Twitter, publik harus mendorong pelaporan massal terlebih dahulu. Pun, pelaporan massal yang dilakukan sempat tidak mampu menurunkan konten tersebut.
Moderasi Konten yang Berstandar Ganda
Moderasi konten merupakan langkah platform untuk menurunkan konten-konten merugikan yang mengandung ketelanjangan, ujaran kebencian, hak cipta, maupun kekerasan sebelum adanya pelaporan. Sayangnya, langkah ini tidak selalu berhasil dalam menangkal konten-konten berbahaya tersebut, terbukti dari banyaknya kasus penyalahgunaan konten maupun penyebaran konten intim non-konsensual yang menunggu pelaporan untuk dihapuskan.
Seorang kreator Tiktok perempuan, pole dancer dan mahasiswa PhD yang fokus pada online abuse mengunggah video pole dancing-nya yang tidak dalam keadaan telanjang, namun videonya dengan cepat diturunkan Tiktok. Akunnya lantas dibekukan karena dianggap melanggar community guideline tentang ketelanjangan. Di sisi lain, Tiktok butuh waktu dan pelaporan massal terlebih dulu untuk menurunkan konten yang mengobjektifikasi perempuan seperti akun rahasia mantan.
Moderasi konten memang bukan pekerjaan sederhana. Ia acap butuh konteks yang lebih lengkap mengingat perbedaan kultur, misalnya terkait apa yang dianggap ketelanjangan atau konten intim. Ketika algoritma moderasi konten tak mampu membaca konteks maupun intensi, konten-konten materi pendidikan seksual yang jauh di luar ranah ketelanjangan dapat dibekukan (Young, 2021)
Artificial intelligence yang digunakan dalam memoderasi konten secara otomatis tak cukup sensitif dalam menangkap konteks maupun makna-makna subkultur (Gilespie, 2020). Machine learning perlu dilatih dengan data terbaru dengan jumlah yang besar dan ini sering kali memunculkan masalah yang lebih mendalam, seperti potensi penyalahgunaan data secara lebih luas.
Dalam melatih machine learning-nya, Facebook meminta para pengguna mengunggah foto telanjang mereka secara sukarela sebagai pilot program dalam upayanya mengentaskan penyebaran konten intim non-konsensual. Sistem akan mentranskripsi foto-foto tersebut menjadi kode-kode digital unik disebut hashing, sementara foto-foto asli tak akan tersimpan dalam database. Sayangnya, foto-foto tersebut masih akan dilihat oleh sekelompok kecil reviewer konten manusia yang dilatih khusus.
Baca juga: Hati-hati Di Internet dan Hal-hal yang Perlu Diketahui Soal KBGO
Perlunya Regulasi yang Menuntut Pertanggungjawaban Platform
Solusi yang menuntut individu untuk bertanggung jawab melakukan self-censorship justru mengecilkan pertanggungjawaban pihak platform. Bagi Alex Stamos, mantan Head of Security Facebook, platform sosial media justru memiliki tanggung jawab sipil yang lebih besar.
Pada 2014 lalu, remaja perempuan berusia 14 tahun di Irlandia menuntut Facebook dan seseorang yang memposting foto telanjangnya di sebuah Facebook Page. Tuntutan remaja tersebut pada raksasa media sosial itu menjadi yang pertama di dunia. Remaja tersebut menggugat Facebook dengan tuduhan penyalahgunaan informasi pribadi, kelalaian, dan pelanggaran Undang-Undang Perlindungan Data. Dia memenangi tuntutannya dan Facebook membayarnya kompensasi. Kasus ini memperlihatkan bahwa dalam kasus penyebaran konten intim non-konsensual, platform media sosial harus bertanggung jawab.
Di Inggris, undang-undang yang baru disahkan memberikan Ofcom, badan yang meregulasi industri komunikasi, wewenang untuk menjatuhkan denda sebesar 10% dari total keuntungan, atau bahkan melarang sepenuhnya perusahaan media sosial yang gagal merespons dengan cepat konten-konten berbahaya, seperti konten intim yang disebar tanpa persetujuan.
Di Indonesia sendiri, regulasi terhadap penyebaran konten intim non-konsensual masih berpatokan pada UU Pornografi yang haluannya konservatif dan sering kali menjadikan korban perempuan sebagai pelaku. Dalam UU pornografi, seksualitas di luar hubungan pernikahan itu sendiri sudah dilihat melanggar norma kesusilaan dalam masyarakat. Dalam Pasal 4 ayat (1) UU Pornografi, setiap orang yang berperan dalam video atau foto, tanpa memedulikan apakah mereka memberikan persetujuan pada distribusi konten tersebut, dianggap sebagai pihak yang memproduksi, membuat, atau memperbanyak konten porno.
Selain UU Pornografi, pihak yang dengan sengaja menyebar konten tersebut dapat dijerat dengan regulasi UU ITE pasal 27 ayat (1) yang memungkinkan pelaku dihukum pidana penjara paling lama enam tahun dan/atau denda paling banyak Rp1 miliar atas tindakan pendistribusian kontennya, baik secara perorangan maupun publik.
Ketiadaan regulasi yang menuntut tanggung jawab pihak platform atas konten yang merugikan pengguna, utamanya perempuan, khususnya di Indonesia, membuat kasus penyebaran konten intim non-konsensual tidak dilihat sebagai permasalahan sistemik. Di saat UU TPKS masih setengah hati, dan serangkaian regulasi lain masih tidak harmonis dalam menangani KBGO, regulasi yang menuntut pihak platform media sosial untuk bertanggung jawab semakin mendesak.
Pengumpulan data penulisan ini dibantu oleh Fadel Arrumy.
Artikel ini direpublikasi dari website Remotivi untuk tujuan pendidikan publik. Tautan sumber bisa cek di sini.
