Tahun lalu, kelompok ini menghapus 318.000 video dan foto – deepfake, konten kamera pengintai, dan gambar intim yang dibagikan tanpa persetujuan – atas nama 10.600 orang, 75 persen di antaranya adalah perempuan dan anak perempuan.
Seoul, Suarathailand- Di bawah spanduk bertuliskan “Solidaritas” dan “Kami berdiri bersama dengan para korban”, sekelompok detektif digital wanita Korea Selatan menelusuri internet untuk mencari momok pornografi ilegal yang didukung AI.
Namun kisah sukses ini memiliki sisi gelap: perempuan mengalami “kejahatan seks digital” yang merajalela, kata kelompok hak asasi manusia. Kamera pengintai memfilmkan mereka secara pribadi sementara grup chat memeras mereka untuk konten eksplisit dan membagikan apa yang disebut “pornografi balas dendam” tanpa izin.
Deepfake yang dihasilkan oleh AI adalah ancaman terbaru. Dengan menggunakan teknologi generatif dan gambar wajah korbannya, pelaku pelecehan dapat membuat gambar pornografi invasif yang menggambarkan target mereka.
Di Pusat Nasional untuk Respons Kejahatan Seksual Digital – bertempat di kantor yang luas di Seoul – 23 perempuan ditugaskan untuk membalikkan keadaan, menelusuri web, dan mengajukan permintaan penghapusan yang didukung oleh ancaman tindakan hukum.
Tahun lalu, kelompok ini menghapus 318.000 video dan foto – deepfake, konten kamera pengintai, dan gambar intim yang dibagikan tanpa persetujuan – atas nama 10.600 orang, 75 persen di antaranya adalah perempuan dan anak perempuan.
“Korea Selatan bertindak lebih cepat dibandingkan negara lain karena tidak hanya kejahatan seks digital yang menjadi umum lebih awal dibandingkan negara lain, namun perempuan juga bersuara menentang kejahatan tersebut dengan cepat dan penuh semangat,” Kim Mi-soon, kepala pusat yang didirikan pemerintah, mengatakan kepada AFP.
Pusat Respons Kejahatan Seksual Digital
Pusat tersebut dibuka pada tahun 2018, tahun dimana puluhan ribu perempuan menuntut tindakan melalui protes anti-kamera pengintai.
Kantor pusat organisasi tersebut dan 17 pusat regionalnya juga menawarkan konseling dan nasihat hukum serta mengumpulkan bukti untuk penuntutan.
Seorang wanita berusia 33 tahun, yang meminta untuk diidentifikasi hanya dengan nama belakangnya Kim, mengatakan bahwa dia telah membagikan deepfake pada tahun 2024 di aplikasi terenkripsi di luar jangkauan spesialis pusat tersebut.
“Pusat ini mungkin tidak sempurna, namun dapat memberikan perbedaan besar bagi para korban yang mengalami mimpi buruk ini sendirian,” katanya.
Kim, seorang anggota militer, mengatakan dia merasa “disembuhkan” dengan dukungan mereka – termasuk bantuan keuangan untuk mendapatkan diagnosis trauma untuk bukti pengadilan.
“Ini memberi saya perasaan lega dan terhibur,” katanya.
“Menjalani seluruh prosedur hukum sendirian sambil menderita trauma adalah hal yang mustahil.”
Kejahatan seks digital terbukti merupakan ancaman yang bisa berubah.
Pada tahun 2020, skandal “Nth Room” mengungkapkan bahwa laki-laki mengeksploitasi puluhan perempuan dan anak perempuan yang mereka sebut “budak” di ruang obrolan “sextortion” berbayar untuk ditonton.
Sejak pusat respons nasional yang beranggotakan 46 orang didirikan, deepfake seksual telah menjadi tren baru.
Antara tahun 2019 dan 2023, sirkulasi deepfake global melonjak 550 persen, menurut perusahaan keamanan web Security Hero.
Hampir 98 persen kontennya adalah pornografi perempuan yang dihasilkan oleh AI, dengan lebih dari separuh korbannya berada di Korea Selatan, menurut penelitian perusahaan.
Bintang K-pop adalah target utama, namun perempuan biasa semakin banyak yang terjerat di negara dimana data polisi menunjukkan kejahatan seks digital menyumbang 40 persen dari seluruh pelanggaran seksual.
“Sejak tahun lalu, kita telah melihat semakin banyak deepfake yang menampilkan perempuan dan anak perempuan – dengan gambar yang menjadi jauh lebih canggih dari sebelumnya dan korbannya semakin muda,” kata spesialis penghapusan Kim Yun-hee.
Pusat tersebut menggunakan alat AI miliknya sendiri, termasuk sistem pemantauan yang mampu mendeteksi materi dan pesan eksploitatif yang menargetkan anak-anak.
“Pekerjaan ini tidak mudah,” kata pria berusia 31 tahun itu kepada AFP. “Tetapi rasanya sangat bermanfaat setiap kali klien kami mengatakan bahwa layanan kami benar-benar menyelamatkan nyawa.”
Hukum Berat
Pornografi deepfake adalah ilegal di Korea Selatan, dan kepemilikannya dapat dihukum hingga tiga tahun penjara dan penciptanya dapat menghadapi hukuman hingga tujuh tahun penjara.
Hukuman ditingkatkan pada tahun 2024, tahun ketika serangkaian ruang obrolan deepfake Telegram ditemukan membagikan rekaman seksual yang dibuat oleh AI yang menampilkan kenalan perempuan, teman sekelas, kolega, dan kerabat, terkadang dibuat dari foto yang diambil dari akun media sosial korban.
Clare McGlynn, profesor hukum di Universitas Durham Inggris dan pakar pelecehan seksual berbasis gambar, mengatakan Seoul “memimpin dalam menyediakan layanan dukungan holistik dan berinvestasi dalam teknologi terbaru untuk mencoba mengurangi dampak buruknya”.
Pendekatan Korea Selatan memberikan “contoh bagi seluruh dunia”, katanya kepada AFP.
Namun para pegiat memperingatkan bahwa akar penyebab masalah ini adalah budaya patriarki yang menganggap perempuan sebagai objek seksual yang tidak pantas mendapatkan martabat.
Kim Yeo-jin, kepala Pusat Respons Kekerasan Seksual Siber Korea, mengatakan kepada AFP bahwa masalah online memerlukan solusi offline.
“Kecuali kita mengatasi penyebab mendasar ini dengan mendorong lebih banyak kesetaraan gender di masyarakat luas dan memperkuat pendidikan kesetaraan gender di sekolah, upaya penghapusan sebesar apa pun tidak akan cukup,” katanya.
