Pedofil menggunakan teknologi kecerdasan buatan (AI) untuk membuat dan menjual materi pelecehan seksual anak yang terlihat nyata.

Beberapa mengakses gambar dengan membayar langganan ke akun di situs berbagi konten utama seperti Patreon.

Patreon mengatakan memiliki kebijakan “tanpa toleransi” tentang citra semacam itu di situsnya.

Dewan Kepala Kepolisian Nasional mengatakan “keterlaluan” bahwa beberapa platform menghasilkan “keuntungan besar” tetapi tidak mengambil “tanggung jawab moral”.

Dan GCHQ, badan intelijen, keamanan, dan dunia maya pemerintah, telah menanggapi laporan tersebut, dengan mengatakan: “Pelanggar pelecehan seksual anak mengadopsi semua teknologi dan beberapa percaya masa depan materi pelecehan seksual anak terletak pada konten yang dihasilkan AI.”

Pembuat gambar penyalahgunaan menggunakan perangkat lunak AI yang disebut Difusi Stabil, yang dimaksudkan untuk menghasilkan gambar untuk digunakan dalam seni atau desain grafis.

AI memungkinkan komputer untuk melakukan tugas yang biasanya membutuhkan kecerdasan manusia.

Perangkat lunak Stable Diffusion memungkinkan pengguna untuk mendeskripsikan, menggunakan perintah kata, gambar apa pun yang mereka inginkan – dan program kemudian membuat gambar tersebut.

Tetapi BBC telah menemukan bahwa itu digunakan untuk membuat gambar-gambar pelecehan seksual anak yang mirip kehidupan, termasuk pemerkosaan bayi dan balita.

Tim investigasi pelecehan anak online polisi Inggris mengatakan mereka sudah menemukan konten semacam itu.

Octavia Sheepshanks
Keterangan gambar,Wartawan Octavia Sheepshanks mengatakan telah terjadi “banjir besar” gambar yang dihasilkan AI

Peneliti lepas dan jurnalis Octavia Sheepshanks telah menyelidiki masalah ini selama beberapa bulan. Dia menghubungi BBC melalui badan amal anak-anak NSPCC untuk menyoroti temuannya.

“Sejak gambar yang dihasilkan AI menjadi mungkin, telah terjadi banjir besar ini… bukan hanya gadis yang sangat muda, mereka [pedofil] berbicara tentang balita,” katanya.

“Gambar semu” yang dibuat oleh komputer yang menggambarkan pelecehan seksual terhadap anak-anak diperlakukan sama dengan gambar asli dan ilegal untuk dimiliki, dipublikasikan, atau ditransfer di Inggris Raya.

Dewan Kepala Polisi Nasional (NPCC) yang memimpin perlindungan anak, Ian Critchley, mengatakan akan salah jika berargumen bahwa karena tidak ada anak sungguhan yang digambarkan dalam gambar “sintetis” semacam itu – sehingga tidak ada yang dirugikan.

Dia memperingatkan bahwa seorang pedofil dapat, “bergerak sepanjang skala pelanggaran itu dari pemikiran, ke sintetik, hingga benar-benar pelecehan terhadap anak yang masih hidup”.

garis

Gambar penyalahgunaan dibagikan melalui proses tiga tahap:

  • Pedofil membuat gambar menggunakan perangkat lunak AI
  • Mereka mempromosikan gambar pada platform seperti situs berbagi gambar Jepang bernama Pixiv
  • Akun ini memiliki tautan untuk mengarahkan pelanggan ke gambar mereka yang lebih eksplisit, yang dapat dibayar orang untuk melihatnya di akun di situs seperti Patreon
garis

Beberapa pembuat gambar memposting di platform media sosial populer Jepang bernama Pixiv, yang terutama digunakan oleh seniman berbagi manga dan anime.

Tetapi karena situs tersebut dihosting di Jepang, di mana berbagi kartun seksual dan gambar anak-anak tidak ilegal, pencipta menggunakannya untuk mempromosikan karya mereka dalam kelompok dan melalui tagar – yang mengindeks topik menggunakan kata kunci.

Seorang juru bicara Pixiv mengatakan pihaknya sangat menekankan untuk mengatasi masalah ini. Dikatakan pada 31 Mei telah melarang semua penggambaran foto-realistis dari konten seksual yang melibatkan anak di bawah umur.

Perusahaan mengatakan telah secara proaktif memperkuat sistem pemantauannya dan mengalokasikan sumber daya yang besar untuk mengatasi masalah yang terkait dengan perkembangan AI.

Sheepshanks mengatakan kepada BBC bahwa penelitiannya menunjukkan bahwa pengguna tampaknya membuat gambar pelecehan anak dalam skala industri.

“Volumenya sangat besar, jadi orang [pencipta] akan mengatakan ‘kami bertujuan untuk membuat setidaknya 1.000 gambar sebulan,'” katanya.

Komentar oleh pengguna pada gambar individual di Pixiv memperjelas bahwa mereka memiliki minat seksual pada anak-anak, dengan beberapa pengguna bahkan menawarkan untuk memberikan gambar dan video pelecehan yang tidak dihasilkan oleh AI.

Ms Sheepshanks telah memantau beberapa kelompok di peron.

“Di dalam grup tersebut, yang akan memiliki 100 anggota, orang-orang akan berbagi, ‘Oh, ini tautan ke hal-hal nyata,'” katanya.

Tingkat harga yang berbeda

Banyak akun di Pixiv menyertakan tautan dalam biografi mereka yang mengarahkan orang ke apa yang mereka sebut “konten tanpa sensor” di situs berbagi konten Patreon yang berbasis di AS.

Patreon bernilai sekitar $4 miliar (£3,1 miliar) dan mengklaim memiliki lebih dari 250.000 kreator – kebanyakan dari mereka adalah akun sah milik selebritas, jurnalis, dan penulis terkenal.

Penggemar dapat mendukung pembuat konten dengan mengambil langganan bulanan untuk mengakses blog, podcast, video, dan gambar – dengan membayar mulai dari $3,85 (£3) per bulan.

Tetapi penyelidikan kami dengan Octavia Sheepshanks menemukan akun Patreon menawarkan gambar cabul foto-realistis buatan AI dari anak-anak untuk dijual, dengan tingkat harga yang berbeda tergantung pada jenis bahan yang diminta.

Seseorang menulis di akunnya: “Saya melatih anak perempuan saya di PC saya,” menambahkan bahwa mereka menunjukkan “penyerahan”. Dengan $8,30 (£6,50) per bulan, pengguna lain menawarkan “seni eksklusif tanpa sensor”.

BBC mengirimkan Patreon satu contoh, yang dikonfirmasi oleh platform tersebut “semi realistis dan melanggar kebijakan kami”. Dikatakan akun itu segera dihapus.

Patreon mengatakan itu memiliki kebijakan “toleransi nol”, bersikeras: “Pencipta tidak dapat mendanai konten yang didedikasikan untuk tema seksual yang melibatkan anak di bawah umur.”

Perusahaan mengatakan peningkatan konten berbahaya yang dihasilkan AI di internet adalah “nyata dan menyusahkan”, menambahkan bahwa mereka telah “mengidentifikasi dan menghapus jumlah yang meningkat” dari materi ini.

“Kami sudah melarang bahan eksploitasi anak sintetis yang dihasilkan AI,” katanya, menggambarkan dirinya sebagai “sangat proaktif”, dengan tim, teknologi, dan kemitraan khusus untuk “menjaga keamanan remaja”.

Ian Critchley dari NPCC
Keterangan gambar,Ian Critchley dari NPCC mengatakan itu adalah “momen penting” bagi masyarakat

Generator gambar AI Stable Diffusion dibuat sebagai kolaborasi global antara akademisi dan sejumlah perusahaan, dipimpin oleh Stability AI perusahaan Inggris.

Beberapa versi telah dirilis, dengan batasan yang dituliskan ke dalam kode yang mengontrol jenis konten yang dapat dibuat.

Namun tahun lalu, versi “sumber terbuka” sebelumnya dirilis ke publik yang memungkinkan pengguna menghapus filter apa pun dan melatihnya untuk menghasilkan gambar apa pun – termasuk yang ilegal.

Stabilitas AI mengatakan kepada BBC bahwa “melarang penyalahgunaan untuk tujuan ilegal atau tidak bermoral di seluruh platform kami, dan kebijakan kami jelas bahwa ini termasuk CSAM (materi pelecehan seksual terhadap anak).

“Kami sangat mendukung upaya penegakan hukum terhadap mereka yang menyalahgunakan produk kami untuk tujuan ilegal atau jahat”.

Saat AI terus berkembang pesat, pertanyaan telah diajukan tentang risiko masa depan yang dapat ditimbulkannya terhadap privasi orang, hak asasi manusia, atau keselamatan mereka.

Jo [nama lengkap dirahasiakan karena alasan keamanan], Pimpinan Misi Penanggulangan Pelecehan Seksual Anak (CCSA) GCHQ, mengatakan kepada BBC: “GCHQ mendukung penegakan hukum untuk tetap berada di depan ancaman yang muncul seperti konten buatan AI dan memastikan tidak ada ruang aman untuk pelanggar.”

Ian Critchley dari NPCC mengatakan dia juga khawatir bahwa membanjirnya AI realistis atau gambar “sintetik” dapat memperlambat proses mengidentifikasi korban pelecehan yang sebenarnya.

Dia menjelaskan: “Ini menciptakan permintaan tambahan, dalam hal kepolisian dan penegakan hukum untuk mengidentifikasi di mana seorang anak yang sebenarnya, di mana pun di dunia, dilecehkan sebagai lawan dari anak buatan atau sintetis.”

Mr Critchley mengatakan dia percaya itu adalah momen penting bagi masyarakat.

“Kami dapat memastikan bahwa internet dan teknologi memungkinkan peluang luar biasa yang diciptakannya bagi kaum muda – atau itu bisa menjadi tempat yang jauh lebih berbahaya,” katanya.

Badan amal anak-anak NSPCC pada hari Rabu meminta perusahaan teknologi untuk memperhatikan.

“Kecepatan teknologi yang muncul ini telah dikooptasi oleh para pelaku penyalahgunaan sangat menakjubkan tetapi tidak mengherankan, karena perusahaan yang diperingatkan akan bahayanya telah duduk diam sambil mengucapkan kata-kata hampa tentang keselamatan,” kata Anna Edmundson, badan amal tersebut. kepala urusan kebijakan dan publik.

“Perusahaan teknologi sekarang tahu bagaimana produk mereka digunakan untuk memfasilitasi pelecehan seksual terhadap anak dan tidak ada lagi alasan untuk tidak bertindak.”

Seorang juru bicara pemerintah menjawab: “RUU Keamanan Online akan meminta perusahaan untuk mengambil tindakan proaktif dalam menangani semua bentuk pelecehan seksual anak online termasuk perawatan, streaming langsung, materi pelecehan seksual anak dan gambar anak-anak yang dilarang – atau menghadapi denda besar. “

SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000

SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000 SLOT GACOR ONLINE DANA 10000

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *