LONDON – Sebuah kelompok pengawas anak mengatakan kasus kekerasan terhadap anak sedang meningkat.
Kelompok pengawas Internet Watch Foundation (IWF) mengatakan pembuatan dan distribusi gambar buatan yang dibuat oleh AI menjadi semakin umum.
Berbeda dengan dulu, foto dan video tersebut kini masuk ke platform internet publik dan bukan ke Dark Web, dunia online yang hanya bisa diakses melalui browser khusus seperti Tor.
Meningkatnya jumlah gambar yang dihasilkan oleh AI menyulitkan pihak berwenang dan lembaga investigasi untuk mengenali apakah gambar tersebut benar-benar merupakan gambar anak-anak yang membutuhkan bantuan, sebuah situasi yang digambarkan oleh peneliti IWF sebagai ‘titik kritis’.
Apa yang mengejutkan banyak orang adalah bahwa hanya dalam enam bulan terakhir, terdapat lebih banyak insiden gambar pelecehan anak yang dihasilkan oleh AI dibandingkan dengan jumlah perbincangan sepanjang tahun sebelumnya.
Sejauh ini, IWF telah menindaklanjuti 74 laporan yang memuat informasi tersebut, meningkat signifikan dari 70 laporan pada 12 bulan sebelumnya.
Hal yang paling mengkhawatirkan adalah alat AI yang membuat gambar-gambar ini dilatih berdasarkan profil korban sebenarnya, sehingga sulit untuk mengidentifikasi kasus nyata yang memerlukan intervensi, menurut Derek Ray-Hill, kepala sementara IWF.
“Beberapa bulan terakhir menunjukkan bahwa masalah ini tidak akan hilang, malah semakin buruk,” kata surat kabar The Guardian dalam pernyataannya.
Kisah-kisah pelecehan berkisar dari video yang sangat meresahkan hingga gambar-gambar kasar yang diubah dari anak-anak yang mengenakan kostum.
Lebih dari separuh barang yang terdaftar disimpan di server di Rusia dan Amerika Serikat, selain Jepang dan Belanda, menurut IWF.
Berita meresahkan ini muncul di tengah meningkatnya kritik terhadap klaim media sosial yang menyediakan tempat berlindung yang aman bagi pelaku bunuh diri dan pelecehan.
Pengguna di platform seperti Instagram dilecehkan setelah ditipu untuk berbagi foto intim, lapor Guardian.
Meta dilaporkan telah meluncurkan program berbagi foto untuk memerangi kejahatan tersebut.
Platform ini secara otomatis menutup foto telanjang yang diposting dengan pesan yang sesuai dan memperingatkan pengguna untuk tidak membukanya. Mereka juga memiliki opsi untuk memblokir atau melaporkan pengirim gambar tersebut.
Fitur ini diaktifkan secara default untuk akun remaja dan orang dewasa dapat ikut serta.