Kemajuan teknologi video terkini telah menimbulkan beberapa dampak yang mengkhawatirkan di Korea Selatan. Semakin banyak anak muda yang paham teknologi menggunakan teknologi deepfake untuk menghasilkan gambar seksual orang, seringkali teman sebaya mereka sendiri, tanpa persetujuan mereka.
Laporan terkini menunjukkan bahwa telah terjadi 180 kasus pidana terkait gambar deepfake pada tahun 2023.
Dari 120 orang yang dihukum karena kejahatan tersebut, 91 di antaranya adalah remaja, menurut laporan yang disusun oleh Perwakilan Cho Eun-hee dari Partai Kekuatan Rakyat, yang menggunakan data yang disediakan oleh Badan Kepolisian Nasional.
Jumlah kejahatan terkait deepfake telah meningkat sejak 156 pada tahun 2022, demikian pula persentase remaja di antara mereka yang dihukum karena kejahatan tersebut. Pada tahun 2022, 61 persen hukuman dijatuhkan kepada remaja, meningkat menjadi 75,8 persen pada tahun 2023.
“Kejahatan seks digital yang menimbulkan kerusakan permanen pada korban ini menyebar di kalangan remaja, seolah-olah itu adalah permainan,” kata Cho, yang menyerukan revisi sistematis untuk mencegah kejahatan semacam itu.
Penyebaran kejahatan deepfake
Pada tanggal 21 Agustus, Kantor Pendidikan Metropolitan Busan mengatakan empat siswa sekolah menengah sedang diselidiki oleh polisi karena menggunakan teknologi deepfake untuk mengkloning wajah 18 siswa dan dua guru secara digital. Mereka membuat sekitar 80 gambar pornografi korban, yang mereka bagikan melalui aplikasi messenger seluler.
Ada 12 kasus penyebaran deepfake pornografi terhadap sesama siswa di Busan pada tahun 2023, tetapi hanya dalam enam bulan pertama tahun 2024 saja, telah terjadi 15 kasus.
Di Pulau Jeju, polisi baru-baru ini menangkap seorang siswa remaja di sebuah sekolah internasional yang membuat pornografi deepfake menggunakan wajah teman-temannya. Setidaknya 11 siswa ditemukan menjadi korban kejahatan tersebut.
Kejahatan deepfake dapat terjadi dalam berbagai bentuk. Terkadang gambar tersebut digunakan sebagai cara untuk menindas korban, tetapi di lain waktu gambar tersebut dibuat untuk menghasilkan uang.
Pada tahun 2022, seorang siswa sekolah menengah dinyatakan bersalah karena menjual konten pornografi – termasuk foto orang asli yang direkayasa – kepada 110 orang secara daring, dengan imbalan sertifikat hadiah.
Pejabat dari Sunflower Centre yang dikelola pemerintah, yang menyediakan layanan konseling bagi korban pelecehan seksual, mengatakan kejahatan seks menggunakan deepfake dapat terjadi dalam berbagai bentuk.
Seorang pejabat di pusat tersebut mengatakan kepada media lokal bahwa meskipun sebagian besar kasus melibatkan siswa laki-laki yang menganiaya siswa perempuan, siswa dari kedua jenis kelamin dilaporkan menganiaya siswa dengan jenis kelamin yang sama.
Remaja Korea Selatan memiliki akses mudah ke layanan kecerdasan buatan (AI). Survei terhadap 2.261 remaja yang diterbitkan pada bulan Mei oleh Badan Informasi Nasional menemukan bahwa sekitar 77,5 persen remaja di negara tersebut mengatakan bahwa mereka mengetahui tentang AI generatif, dan lebih dari setengahnya, 52,1 persen, mengatakan bahwa mereka benar-benar telah menggunakannya.
Teknologi generatif sendiri dapat digunakan untuk membuat semua jenis gambar, konten tertulis, dan musik, dan merupakan alat yang digunakan di sejumlah industri. Sangat sedikit dari remaja Korea yang paham teknologi ini yang menggunakannya untuk tujuan ilegal, seperti yang ditunjukkan oleh data dari kepolisian.
Namun seperti alat lainnya, teknologi ini dapat berbahaya jika berada di tangan yang salah, dan ada kekhawatiran yang berkembang atas bahaya yang dapat ditimbulkan akibat penyalahgunaannya.
Kekhawatiran atas penggunaan AI yang salah
Meskipun semakin banyak remaja yang dihukum karena menggunakan teknologi deepfake, sangat sedikit dari mereka yang mendapatkan hukuman serius. Hal ini sebagian karena hukuman untuk anak di bawah umur umumnya lebih ringan.
Orang dewasa yang memproses atau mengedit konten video, audio, atau foto palsu milik orang lain dalam bentuk yang menyebabkan rasa malu seksual yang bertentangan dengan keinginan orang tersebut dengan maksud untuk disebarkan dapat dihukum hingga lima tahun penjara atau denda hingga 50 juta won (Rp581 juta).
Namun, surat kabar Hankyoreh baru-baru ini melaporkan bahwa hukuman yang sebenarnya jauh lebih ringan daripada yang disarankan oleh hukum.
Analisis surat kabar tersebut terhadap 46 putusan pengadilan terkait dengan video palsu menunjukkan bahwa dari 18 orang yang didakwa hanya karena menyebarkan video palsu – tidak termasuk mereka yang didakwa dengan kejahatan lain juga – hanya satu orang yang dijatuhi hukuman penjara, dengan 15 orang lolos dengan hukuman yang ditangguhkan sementara dua orang dijatuhi denda.
Dalam satu kasus, seorang pemuda yang memalsukan foto sepupunya yang masih remaja dan membagikannya di aplikasi pesan seluler awalnya dijatuhi hukuman dua tahun penjara, tetapi pengadilan banding mengurangi hukuman tersebut menjadi hukuman yang ditangguhkan.
Pengadilan mengatakan dalam putusannya bahwa terdakwa masih muda, tidak memiliki catatan kriminal sebelumnya, dan orang tuanya telah berjanji untuk menjauhkannya dari kejahatan tersebut.
Undang-undang tersebut juga menetapkan bahwa pelaku harus memiliki tujuan penyebaran, yang berarti menghukum mereka yang memiliki pornografi deepfake tersebut berada dalam wilayah abu-abu hukum.
Karena itu, para ahli kriminal menekankan bahwa pemerintah harus meningkatkan pendidikan kepada siswa untuk memastikan mereka menyadari beratnya kejahatan tersebut.
Profesor psikologi kriminal Lee Soo-jung, di Universitas Kyunggi, mengatakan dalam sebuah wawancara dengan media lokal bahwa pelajaran tentang teknologi komputer, seperti pengkodean, harus mencakup aspek hukum dan etika teknologi.
Ia menekankan bahwa pendidikan semacam itu harus dimulai sejak usia yang sangat muda, karena risiko salah mengartikan kejahatan tersebut sebagai lelucon lebih tinggi pada anak-anak yang lebih muda.(korea herald)
