Teknologi deepfake menggabungkan kecerdasan buatan dengan gambar atau video digunakan untuk produksi pornografi.
Pengawas komunikasi Thailand sedang mempertimbangkan cara untuk memblokir penyebaran konten pornografi melalui aplikasi Telegram.
Korsel, Suarathailand- Presiden Yoon Suk Yeol menyerukan penyelidikan menyeluruh dan identifikasi kejahatan seks digital yang melibatkan pornografi deepfake, di tengah meningkatnya kekhawatiran atas cepatnya penyebaran konten seksual eksplisit yang dibuat menggunakan kecerdasan buatan.
“Baru-baru ini, video palsu yang menargetkan sejumlah orang yang tidak ditentukan telah beredar dengan cepat di media sosial,” kata Yoon pada pertemuan Kabinet.
“Siapa pun bisa menjadi korban kejahatan seks digital tersebut. Saya mendesak semua pihak berwenang yang terlibat untuk menyelidiki secara menyeluruh dan mengidentifikasi kejahatan-kejahatan tersebut sambil juga memberikan langkah-langkah pendidikan yang tepat untuk membangun budaya digital yang sehat.”
Teknologi deepfake menggabungkan kecerdasan buatan dengan gambar atau video yang ada untuk menciptakan media yang hampir tidak dapat dibedakan dari foto atau video asli, terutama dengan memetakan satu wajah ke wajah lainnya.
Kekhawatiran nasional terhadap pornografi deepfake semakin meningkat setelah ruang obrolan di Telegram yang aktif sejak tahun 2020 dengan sekitar 1.200 peserta, pekan lalu ditemukan digunakan untuk berbagi gambar seksual eksplisit yang menampilkan wajah lebih dari 30 mahasiswi di Universitas Inha di Incheon yang telah diubah secara digital.
Para peserta ruang obrolan juga membagikan informasi pribadi para korban, termasuk nomor telepon dan alamat terkait.
Sejak itu, media lokal melaporkan lebih banyak ruang obrolan Telegram yang terhubung dengan kampus universitas lain, sekolah menengah pertama dan atas serta unit militer, di mana para pelaku mengunggah foto-foto perempuan yang mereka kenal secara pribadi, yang kemudian digunakan untuk menghasilkan konten pornografi palsu.
Para pelaku di beberapa ruang obrolan akan berbagi tautan ke program otomatis satu sama lain untuk menghasilkan video pornografi palsu yang dibagikan dalam grup-grup ini, sementara di ruang obrolan lain mereka akan berbagi konten pornografi palsu tersebut.
Menurut Kantor Berita Yonhap, pencarian di Telemetrio, sebuah platform yang membantu pencarian di ruang obrolan Telegram, menunjukkan lebih dari 100 saluran berbagi dan mendistribusikan konten seksual eksplisit tersebut. Salah satu saluran deepfake Telegram yang terbukti memiliki sekitar 133.400 pelanggan, menerima foto individu yang dikirimkan oleh pengguna untuk menghasilkan foto seksual eksplisit.
Ruang obrolan lain, masing-masing menampilkan 1.800 dan 3.500 anggota aktif, juga ditemukan di Telemetrio tempat pengguna berbagi foto dan informasi palsu tentang mahasiswi tertentu di universitas mereka.
Pengguna media sosial telah menyebarkan daftar lokasi dan sekolah di mana korbannya memiliki konten seksual eksplisit yang dibuat dengan teknologi deepfake, meskipun kebenarannya belum dapat dikonfirmasi. Postingan yang memuat nama dan wajah terduga pelaku pun mulai menyebar dengan pesat.
Karena beberapa korban juga merupakan siswa di bawah umur, Kementerian Pendidikan menyatakan pada hari Selasa bahwa mereka telah mengirimkan pemberitahuan ke 17 kantor pendidikan di seluruh Korea meminta mereka untuk memeriksa status setiap kasus terkait konten pornografi deepfake di sekolah dan melaporkannya secara langsung. ke kementerian.
Kantor Pendidikan Metropolitan Seoul mengatakan sedang dalam proses mengidentifikasi kasus-kasus tersebut bekerja sama dengan Badan Kepolisian Nasional Korea.
Kantor Pendidikan Provinsi Gyeonggi mengirimkan pemberitahuan kepada orang tua yang mendesak siswa untuk berhati-hati dalam mengungkapkan informasi pribadi mereka secara online dan untuk berhati-hatilah dalam memposting atau mengirimkan informasi pribadi orang lain secara online tanpa persetujuan mereka.
Menanggapi pesatnya penyebaran konten seksual eksplisit yang dihasilkan melalui teknologi deepfake, Komisi Standar Komunikasi Korea memutuskan untuk membuat pintasan terpisah di situs webnya yang didedikasikan untuk melaporkan konten pornografi deepfake yang sebelumnya hanya menyediakan pintasan untuk pelaporan digital kejahatan seks.
Selain itu, komisi tersebut berencana untuk menggandakan personel pemantauan untuk merespons penyebaran konten tersebut secara real-time, sekaligus membangun hotline komunikasi dengan Telegram untuk berkomunikasi dengan cepat dengan layanan pesan tersebut agar dapat bereaksi lebih cepat terhadap insiden semacam itu.
Dalam jumpa pers, Perdana Menteri Han Duck-soo menyatakan negaranya harus "dengan tegas menindak kejahatan digital, sama seperti tindakan keras pemerintah saat ini terhadap obat-obatan terlarang."
“Pendidikan tentang teknologi digital baru dan bahaya yang ditimbulkannya bagi masyarakat kita jika disalahgunakan harus diajarkan. Pemerintah, media, dan masyarakat sipil harus bekerja sama untuk memastikan kemajuan teknologi tidak disalahgunakan,” kata Han.
Oposisi utama Partai Demokrat Korea juga menambahkan mereka akan membentuk satuan tugas untuk menanggapi kejahatan seks palsu dan memperkenalkan peraturan untuk memperkuat hukuman bagi pelakunya.
Melalui pernyataan resmi yang dirilis kepada pers pada hari Selasa, partai oposisi utama menyatakan bahwa Rep. Lee Jae-myung, pemimpin Partai Demokrat, menyerukan "langkah-langkah untuk melindungi korban kejahatan seks deepfake dan hukuman yang lebih berat bagi pembuat konten seksual deepfake dan distributor."
Sementara itu, KNPA melaporkan total 297 kasus kejahatan eksploitasi seksual deepfake dilaporkan sepanjang Januari hingga Juli tahun ini. Dari 178 tersangka yang teridentifikasi, 131 di antaranya adalah anak di bawah umur, yang mencakup 73,6 persen pelaku.
Pada konferensi pers, Badan Kepolisian Metropolitan Seoul mengatakan mereka telah menerima hingga 10 laporan mengenai eksploitasi seksual di Telegram antara bulan Januari hingga Juli tahun ini dan menangkap 10 anak di bawah umur berusia 14 tahun ke atas.
