Namun seperti alat lainnya, teknologi ini dapat berbahaya jika berada di tangan yang salah.
Kemajuan teknologi video terkini telah menimbulkan beberapa dampak yang mengkhawatirkan di Korea Selatan. Semakin banyak anak muda yang paham teknologi menggunakan teknologi deepfake untuk menghasilkan gambar seksual orang, seringkali teman sebaya mereka sendiri, tanpa persetujuan mereka.
Laporan terkini menunjukkan bahwa telah terjadi 180 kasus pidana terkait gambar deepfake pada tahun 2023.
Dari 120 orang yang dihukum karena kejahatan tersebut, 91 di antaranya adalah remaja, menurut laporan yang disusun oleh Perwakilan Cho Eun-hee dari Partai Kekuatan Rakyat, yang menggunakan data yang disediakan oleh Badan Kepolisian Nasional.
Jumlah kejahatan terkait deepfake telah meningkat sejak 156 pada tahun 2022, demikian pula persentase remaja di antara mereka yang dihukum karena kejahatan tersebut. Pada tahun 2022, 61 persen hukuman dijatuhkan kepada remaja, meningkat menjadi 75,8 persen pada tahun 2023.
“Kejahatan seks digital yang menimbulkan kerusakan permanen pada korban ini menyebar di kalangan remaja, seolah-olah itu adalah permainan,” kata Cho, yang menyerukan revisi sistematis untuk mencegah kejahatan semacam itu.