Wajah Emma Watson digunakan dalam sebuah iklan yang beredar di sosial media seperti Facebook. Dalam iklan ini, nampak seorang wanita dengan wajah malu-malu menatap layar kamera yang nampaknya tengah memulai aksi tindakan seksual.
sesungguhnya ini bukanlah Emma Watson, namun sebuah aplikasi yang memungkinkan pengguna membuat video deepfake. Iklan itu adalah bagian dari kampanye besar-besaran untuk aplikasi deepfake yang memungkinkan pengguna menukar wajah siapapun dengan video apa pun yang dipilih.
Deepfake adalah konten di mana wajah atau suara dimanipulasi. Biasanya, kreator deepfake membuat video di mana selebritas dibuat seolah-olah mereka rela tampil di dalamnya, padahal sebenarnya tidak. Teknologi ini semakin banyak digunakan untuk membuat pornografi nonkonsensual yang menampilkan wajah selebritas, pemberi pengaruh, atau siapa pun, termasuk anak-anak.
Kampanye iklan di Meta mengacu pada fakta bahwa teknologi yang dulu canggih ini telah menyebar dengan cepat ke aplikasi konsumen yang tersedia dan diiklankan di bagian utama internet. Meskipun banyak platform yang melarang konten deepfake yang manipulatif dan berbahaya, aplikasi seperti yang ditinjau oleh NBC News telah berhasil lolos dari celah.
Pada awal pekan lalu, aplikasi untuk membuat video “DeepFake FaceSwap” meluncurkan lebih dari 230 iklan di layanan Meta, termasuk Facebook, Instagram, dan Messenger. Beberapa iklan menunjukkan apa yang tampak seperti permulaan video porno dengan suara terkenal dari lagu intro platform Pornhub. Beberapa detik kemudian, wajah para wanita ditukar dengan wajah selebriti terkenal.
Ketika Lauren Barton, seorang mahasiswa jurnalisme di Tennessee, melihat iklan yang sama di aplikasi terpisah, dia cukup terkejut untuk merekam layar dan mencuitkannya di Twitter.
“Ini bisa digunakan untuk siswa sekolah menengah yang diintimidasi,” kata Barton. “Itu bisa menghancurkan hidup seseorang. Mereka bisa mendapat masalah dalam pekerjaan mereka. Dan ini sangat mudah dilakukan dan gratis. Yang harus saya lakukan hanyalah mengunggah foto wajah saya dan saya memiliki akses ke 50 templat gratis,” sambungnya.
Dari iklan Meta, 127 menampilkan kemiripan Emma Watson. 74 lainnya menampilkan wajah aktor Scarlett Johansson yang ditukar dengan wajah wanita dalam video provokatif serupa. Tidak ada aktor yang menanggapi permintaan komentar.
“Ganti wajah dengan siapa pun,” bunyi keterangan di 80 iklan itu. “Nikmati diri Anda dengan teknologi AI swap face.”
Pada hari Selasa, setelah NBC News meminta komentar dari Meta, semua iklan aplikasi dihapus dari layanan. Meskipun tidak ada tindakan seksual yang ditampilkan dalam video tersebut, sifat sugestifnya menggambarkan bagaimana aplikasi berpotensi digunakan untuk menghasilkan konten seksual palsu. Aplikasi ini memungkinkan pengguna mengunggah video untuk dimanipulasi dan juga menyertakan lusinan templat video, banyak di antaranya tampaknya diambil dari TikTok dan platform media sosial serupa.
Meta melarang sebagian besar konten deepfake pada tahun 2020, dan perusahaan melarang konten dewasa dalam iklan, termasuk ketelanjangan, penggambaran orang dalam posisi eksplisit atau sugestif, atau aktivitas yang bersifat provokatif secara seksual.
