Aparat kepolisian di Gresik, Jawa Timur, berhasil mengamankan seorang remaja laki-laki berusia 17 tahun terkait kasus pembuatan dan penyebaran foto vulgar hasil editan kecerdasan buatan (AI). Penangkapan ini dilakukan setelah adanya laporan dari sejumlah korban yang merasa resah dengan beredarnya foto vulgar diri mereka di media sosial. Kasus foto vulgar yang melibatkan teknologi AI ini menjadi perhatian serius pihak kepolisian mengingat potensi penyalahgunaan teknologi yang semakin canggih.
Penangkapan remaja yang berinisial AR ini dilakukan oleh tim Satreskrim Polres Gresik pada hari Rabu, 16 April 2025, sekitar pukul 19.00 WIB di kediamannya di wilayah Kecamatan Kebomas, Gresik. Berdasarkan hasil penyelidikan, AR diduga kuat telah membuat foto vulgar dengan cara menggabungkan foto-foto pribadi korban dengan gambar тело vulgar menggunakan aplikasi berbasis AI. Selanjutnya, foto vulgar hasil editan tersebut disebarkan oleh pelaku melalui berbagai platform media sosial, menyebabkan keresahan dan kerugian bagi para korban.
Kepala Satreskrim Polres Gresik, AKP Aldhino Prima Wirdhan, dalam keterangan pers di Mapolres Gresik pada Kamis pagi, 17 April 2025 pukul 10.00 WIB, membenarkan adanya penangkapan terkait kasus pembuatan dan penyebaran foto menggunakan AI ini. Beliau menjelaskan bahwa pihaknya menerima laporan dari beberapa korban yang merasa dirugikan dan pihaknya segera melakukan tindakan cepat untuk mengamankan pelaku. Barang bukti berupa perangkat telepon seluler dan perangkat komputer yang digunakan pelaku untuk mengedit dan menyebarkan foto juga berhasil diamankan.
AKP Aldhino Prima Wirdhan juga mengimbau kepada masyarakat, khususnya para pengguna media sosial, untuk lebih berhati-hati dalam mengunggah dan menyimpan foto-foto pribadi di dunia maya. Beliau menekankan pentingnya kesadaran akan potensi penyalahgunaan teknologi AI dalam pembuatan konten yang merugikan. Pihak kepolisian akan terus melakukan patroli siber untuk mencegah dan menindak bentuk kejahatan siber, termasuk pembuatan dan penyebaran foto yang melanggar hukum dan norma kesusilaan. Tersangka AR akan dijerat dengan pasal terkait penyebaran konten pornografi dan pencemaran nama baik melalui media elektronik dengan ancaman hukuman sesuai dengan undang-undang yang berlaku.