JAKARTA – Kecerdasan buatan yang sering digunakan untuk mengeksploitasi gambar atau video dikenal dengan sebutan “deepfakes”. Hal ini juga berlaku pada aplikasi Telegram.
Pada awal tahun 2020-an, pakar pemalsuan mendalam Henrique Azhder menemukan salah satu bot pertama yang membuat lebih dari 100.000 gambar anak-anak, sebuah penemuan yang menandai masa ketika aktivitas semacam itu bersifat masif dan tersebar luas. Sejak itu, mereka menjadi lebih umum, lebih merusak, dan lebih mudah diproduksi.
Website Wired melaporkan pada Jumat (18/10/2024) bahwa komunitas Telegram terlibat dalam konten yang mengekspresikan konten non-konsensual, 50 bot teridentifikasi yang diklaim mampu membuat gambar atau gambar dari orang-orang yang diungkapkan dengan beberapa klik kemampuannya, mulai dari melepas pakaian dari area subjek foto hingga menggambarkan subjek dalam berbagai tindakan seksual.
Puluhan mesin ini memiliki lebih dari empat ribu pengguna per bulan. Secara total, kedua operator tersebut memiliki lebih dari 400.000 pengguna bulanan, sementara 14 operator lainnya memiliki lebih dari 100.000 anggota.
Temuan ini menyoroti bagaimana alat pembuatan telah tersebar luas dan memperkuat situs Telegram sebagai salah satu situs paling berharga. Namun, cuplikan tersebut, yang sebagian besar mencakup bot berbahasa Inggris, kemungkinan mewakili sebagian kecil dari total bot dalam Telegram.
“Kita berbicara tentang peningkatan signifikan, dalam jumlah besar, dalam jumlah orang yang jelas-jelas menggunakan dan membuat konten semacam ini,” kata Ajder tentang bot Telegram.
Robot-robot ini khawatir akan menghancurkan kehidupan dan menciptakan skenario yang sangat menakutkan, terutama bagi perempuan.
Disonansi kedalaman terbuka, sering disebut sebagai penyalahgunaan gambar kedalaman non-konsensual (NCII), pertama kali muncul pada akhir tahun 2017 dengan munculnya AI generatif. Penelusuran untuk kata “telanjang” dan “menanggalkan pakaian” berada di samping media sosial dan bot di Internet . menargetkan ribuan perempuan dan anak perempuan di seluruh dunia.
Sebuah survei baru-baru ini melaporkan bahwa 40 persen siswa AS telah mengetahui tentang penipuan yang mengakar terkait dengan sekolah K-12 mereka pada tahun lalu.
Dirancang oleh Wired, bot telegram mendukung 25 saluran telegram.
Setelah Telegram mendapat pertanyaan tentang apakah perusahaan mengizinkan pembuatan konten berkualitas tinggi di platformnya, perusahaan menghapus 75 bot dan saluran.
Bot ini pada dasarnya adalah aplikasi kecil di dalam aplikasi Telegram, tempat pemilik saluran menyiarkan pesan ke sejumlah pelanggan yang tidak ditentukan. Satu grup berisi hingga 200.000 orang yang bertemu satu sama lain. Pengembang membuat bot yang memainkan kuis ringan, mengomentari pesan, dan memulai peringatan zoom atau jajak pendapat.
Banyak boneka palsu yang memiliki nama dan deskripsi boneka yang mengacu pada ketelanjangan dan pelepasan pakaian wanita.
Hampir semua bot meminta orang membeli token untuk membuat gambar, dan tidak jelas apakah cara kerjanya sama seperti saat membangun situs web, aplikasi, dan bot.
Begitu banyak orang yang mencoba menggunakan situs “membuka kedok” sehingga penjahat dunia maya Rusia, seperti dilansir 404Media, mulai membuat situs palsu untuk menginfeksi orang dengan malware.
Meskipun telebot pertama yang ditemukan beberapa tahun lalu relatif sederhana, teknologi tersebut seharusnya menghasilkan gambar yang dihasilkan AI dengan kualitas lebih tinggi, dan beberapa bot bersembunyi di depan mata.
Salah satu bot, yang memiliki lebih dari 300.000 pengguna bulanan, tidak mencantumkan materi apa pun atas namanya atau di situs webnya. Namun, ketika pengguna mengklik untuk menggunakan aplikasi tersebut, ia mengklaim memiliki lebih dari 40 gambar, banyak di antaranya sangat seksual. :
“Gambaran palsu semacam ini dapat merusak kesehatan dan kesejahteraan seseorang, menyebabkan trauma emosional dan perasaan terhina, takut, malu dan malu,” kata Emma Pickering, kepala teknologi pelecehan dan sumber daya keuangan di tempat penampungan kekerasan dalam rumah tangga terbesar di Inggris.
Ketika fakta-fakta yang lebih mendalam menjadi lebih mudah untuk dibuat dan dibagikan, para anggota parlemen dan perusahaan-perusahaan teknologi telah melambat dalam membendung gelombang ini. Di seluruh Amerika Serikat, 23 negara bagian telah mengeluarkan undang-undang untuk mengatasi telepon seluler yang tidak patuh, dan perusahaan-perusahaan teknologi telah menyetujui beberapa rencana.
Namun, toko aplikasi Apple dan Google telah menemukan aplikasi yang secara terbuka dapat membuat deepfake, Taylor Swift menjelaskan deepfake secara panjang lebar pada tanggal 10 Januari, dan infrastruktur login Big Tech memungkinkan orang dengan mudah membuat akun di situs deepfake.
Keith Ruane, direktur proyek teknologi di Pusat Demokrasi dan Kebebasan Berekspresi, mengatakan bahwa meskipun sebagian besar perusahaan teknologi besar saat ini memiliki kebijakan yang melarang berbagi gambar intim tanpa persetujuan, banyak yang setuju untuk menjunjung prinsip kesewenang-wenangan.
“Menurut saya, masih belum jelas apakah pembuatan atau berbagi gambar intim dilarang di platform ini,” kata Rua tentang persyaratan layanan Telegram, yang kurang rinci dibandingkan platform teknologi besar lainnya.
Pendekatan Telegram untuk menghapus konten berbahaya telah lama dikritik oleh masyarakat sipil, karena platform tersebut secara historis rentan terhadap penipuan, kelompok sayap kanan, dan konten terkait terorisme sejak CEO dan pendiri Telegram Pavel Durov ditangkap dan ditahan di Prancis pada bulan Agustus, karena terhadap serangkaian potensi pelanggaran, Telegram mulai membuat beberapa perubahan pada persyaratan layanannya dan memberikan data kepada penegak hukum.