JAKARTA – Jutaan pengguna Telegram menggunakan chatbot bertenaga AI untuk membuat foto telanjang dan eksplisit dari orang sungguhan, demikian temuan penyelidikan baru.
Menurut laporan yang diterbitkan oleh Wired, bot tersebut memungkinkan pengguna mengubah foto dengan beberapa klik dan membuat foto palsu yang menghilangkan pakaian dari foto atau membuat aktivitas seksual.
Seperti dilansir Wion News, laporan tersebut juga menyebutkan bahwa chatbot ini digunakan hingga empat juta pengguna per bulan untuk membuat deep fake.
Para ahli seperti Henry Ajder telah memperingatkan situasi ini, dan mencatat bahwa robot semacam itu menimbulkan bahaya serius, terutama bagi anak perempuan dan perempuan muda.
Ajder menemukan chatbot sederhana ini empat tahun lalu di platform media sosial. Dia menekankan bahwa situasinya “mengerikan” mengingat banyaknya orang yang secara aktif menggunakannya.
“Sangat meresahkan bahwa alat-alat yang benar-benar menghancurkan kehidupan dan menciptakan skenario yang mengerikan, terutama bagi remaja putri dan perempuan, masih mudah diakses dan ditemukan di permukaan web, salah satu aplikasi terbesar di dunia,” jelasnya.
Telegram, yang terutama dikenal karena layanan terjemahan dan peringatannya, telah menjadi pusat bagi bot jahat tersebut.
Wired mengatakan tidak menerima tanggapan saat menghubungi perusahaan tersebut, tetapi bot tersebut telah menghilang dari platform.
Menurut laporan, bot deepfake jelas tentang apa yang seharusnya mereka lakukan. Nama dan deskripsi robot tersebut dengan jelas menunjukkan ketelanjangan dan pakaian wanita.
“Saya bisa melakukan apapun yang Anda inginkan dengan wajah atau pakaian di foto yang Anda berikan kepada saya,” Wired mengutip salah satu pembuat bot tersebut. Yang lain berkata: “Rasakan keajaiban AI.”
Berbicara kepada Wired tentang dampak gambar palsu ini, Emma Pickering, direktur penyalahgunaan teknologi dan pemberdayaan ekonomi di Refuge, mengatakan: “Jenis gambar palsu ini dapat membahayakan kesehatan dan kesejahteraan seseorang, menyebabkan trauma psikologis dan perasaan terhina. Takut, malu, dan bersalah.”
Dia menambahkan: “Meskipun jenis kekerasan ini biasa terjadi, pelakunya jarang diadili, dan kita tahu bahwa jenis kekerasan ini semakin umum terjadi dalam hubungan intim antar pasangan.”
Awal bulan ini, CEO Telegram Pavel Durov dituduh mempromosikan pornografi anak, namun tidak banyak perubahan dalam pengoperasian platform tersebut.