Li berencana untuk menuntut pembuat drama dan platform tersebut, menyoroti area abu-abu hukum dan peraturan baru yang diciptakan oleh kecerdasan buatan.
China, Suarathailand- Christine Li adalah seorang model dan influencer, tetapi bukan seorang aktris, jadi ketika ia melihat dirinya memerankan karakter kejam dalam sebuah drama mikro Tiongkok, ia merasa bingung, kemudian marah dan takut.
Wanita berusia 26 tahun ini adalah salah satu dari dua orang yang mengatakan kepada AFP bahwa kemiripan wajah mereka digunakan tanpa persetujuan dalam acara yang dihasilkan AI, "The Peach Blossom Hairpin", yang ditayangkan di Hongguo, sebuah aplikasi drama mikro utama yang dimiliki oleh perusahaan induk TikTok, ByteDance.
Li berencana untuk menuntut pembuat drama dan platform tersebut, menyoroti area abu-abu hukum dan peraturan baru yang diciptakan oleh kecerdasan buatan.
"Saya benar-benar terkejut. Itu jelas sekali saya," kata Li, yang tinggal di Hangzhou di Tiongkok timur, seperti dilaporkan Bangkok Post.
"Sangat jelas bahwa mereka menggunakan serangkaian foto tertentu yang saya ambil dua tahun lalu" dan telah saya unggah di media sosial, katanya.
Drama mikro adalah sinetron online ultra-pendek yang sangat populer di Tiongkok dan di tempat lain.
Ketika penggemar Li memberitahunya tentang serial tersebut, ia merasa ngeri menemukan kembaran digitalnya ditampilkan menampar wanita dan menganiaya hewan.
"Saya juga merasakan ketakutan yang mendalam. Saya terus bertanya-tanya orang seperti apa yang akan melakukan hal seperti ini," kata Li.
Hongguo menyediakan ribuan acara gratis berdurasi singkat—baik live-action maupun yang dihasilkan AI—dengan episode berdurasi dua atau tiga menit.
Pada bulan Oktober, platform tersebut memiliki sekitar 245 juta pengguna aktif bulanan, menurut data yang dikutip oleh Wenwen Han, presiden Aliansi Drama Pendek.
Pernyataan Hongguo pada awal April mengatakan bahwa mereka telah menghapus serial tersebut karena para produser telah melanggar aturan platform dan kewajiban kontrak.
- Antagonis 'cabul' -
Kemampuan AI untuk meniru orang sungguhan telah memicu kekhawatiran global terhadap pekerjaan para aktor dan penggunaan deepfake semacam itu untuk penipuan dan propaganda.
Li dan seorang pria yang mengaku digambarkan sebagai suami AI-nya dalam serial tersebut, yang menjadi hit bulan lalu di Hongguo, angkat bicara secara online tentang penemuan mereka yang tidak diinginkan.
Namun, meskipun kisah mereka memicu protes publik tentang etika AI, AFP melihat bahwa "The Peach Blossom Hairpin" terus tayang selama beberapa hari sebelum dihapus, dengan karakter yang diperdebatkan diam-diam diganti.
Pria itu, seorang penata gaya yang ahli dalam pakaian dan tata rias tradisional Tiongkok, telah memposting foto dirinya dengan kostum di aplikasi Xiaohongshu yang mirip Instagram.
Seperti Li, ia merasa kesal dengan penggambaran "buruk" dirinya sebagai antagonis "licik" dalam acara tersebut.
"Apakah ini akan berdampak pada saya, pada pekerjaan saya, pada peluang kerja saya di masa depan?" kata pria itu, yang meminta untuk menggunakan nama samaran Baicai.
Untuk menjaga agar penonton tetap tertarik, drama mikro sering kali penuh dengan momen-momen mengejutkan dan luar biasa.
Li dan Baicai sama-sama menunjukkan kepada AFP foto asli mereka dan karakter dalam "Jepit Rambut Bunga Persik", yang memiliki kemiripan yang kuat.
- Risiko Hukum -
Untuk drama mikro AI berbiaya rendah, peraturan Tiongkok menyatakan bahwa platform harus menjadi pos pemeriksaan utama untuk konten yang berpotensi bermasalah.
Jika mereka tidak melakukan peninjauan konten wajib, video tersebut akan dihapus secara paksa, menurut Administrasi Radio dan Televisi Nasional.
Jika platform mengetahui adanya pelanggaran tetapi gagal untuk menindaklanjutinya, pihak yang terkena dampak dapat memberi tahu otoritas dunia maya Tiongkok yang dapat menjatuhkan sanksi administratif, menurut Zhao Zhanling, seorang mitra di Firma Hukum Beijing Javy.
Hongguo mengatakan dalam pernyataan kedua bulan ini bahwa mereka akan terus memperkuat cara mereka meninjau konten dan cara mereka memberi otorisasi kepada kreator, di antara langkah-langkah lainnya
Mereka mengatakan telah menangani 670 drama mikro AI yang melanggar peraturan, dengan sebagian besar telah dihapus, dan memperingatkan akan menindak pelanggaran berulang.
Ketika dihubungi untuk dimintai komentar, perusahaan induk Bytedance merujuk AFP ke dua pernyataan Hongguo tersebut.
Li dan Baicai mengatakan mereka membutuhkan informasi lebih lanjut dari Hongguo untuk mengkonfirmasi identitas pencipta drama tersebut -- dengan dua perusahaan sebagai kandidat potensial.
Salah satunya terkait dengan akun terverifikasi di TikTok versi Tiongkok yang juga menerbitkan serial tersebut. Yang lainnya terdaftar sebagai produser drama tersebut dalam sistem pengarsipan resmi Tiongkok.
AFP telah menghubungi kedua perusahaan tersebut tetapi tidak menerima tanggapan.
Penggunaan AI untuk memangkas biaya mungkin menggiurkan di pasar drama mikro yang berkembang pesat dan bernilai miliaran dolar.
Namun, menampilkan seseorang dengan cara yang merendahkan tanpa izin "dapat merupakan pelanggaran hak potret dan hak reputasi," kata pengacara Li, Yijie Zhao, dari Firma Hukum Henan Huailv.
- 'Terkait dengan kontroversi' -
Peraturan nasional mewajibkan pembuat drama mikro untuk mendaftar guna mendapatkan lisensi -- langkah yang diwajibkan untuk animasi yang dihasilkan AI mulai bulan ini.
Namun, para produsen dapat tetap bersembunyi dengan mendaftarkan perusahaan sementara, kata Zhao, sementara beberapa diduga menggunakan server luar negeri untuk bersembunyi.
Pada tahun 2024, pengadilan Beijing memerintahkan sebuah perusahaan untuk meminta maaf dan membayar kompensasi kepada seorang selebriti setelah perangkat lunak AI-nya memungkinkan pengguna untuk menghasilkan persona virtual menggunakan foto dan namanya yang dapat bertukar pesan intim.
Namun, pengacara mengatakan kepada AFP bahwa kompensasi untuk penggugat seperti Li kemungkinan tidak akan banyak karena nilai komersial yang terbatas dari sebuah kemiripan biasa.
Li khawatir bahwa saga ini dapat merugikan peluangnya di industri modeling, karena ia sekarang "terkait dengan kontroversi".
Baicai belum mengajukan tuntutan hukum, tetapi berharap melihat lebih banyak tindakan dari regulator dan platform untuk melindungi orang-orang seperti dirinya.
"Mungkin ada banyak kasus dengan korban yang tidak diketahui," katanya.
