Kecerdasan buatan (artificial intelligence/AI) terbukti mengerikan. Setidaknya Olga Loliek sudah merasakan jadi korbannya. Perempuan Ukraina itu mendapati wajahnya di mana-mana di internet. Yang membuatnya resah, dalam video-video yang tersebar di media sosial, citra dirinya itu berbicara apa yang tidak pernah ia katakan.
“Saya tidak ingin ada orang yang berpikir bahwa saya pernah mengatakan hal-hal mengerikan ini dalam hidup saya. Menggunakan seorang gadis Ukraina untuk wajah yang mempromosikan Rusia. Ini gila," kata Olga.
Olga Loiek telah melihat wajahnya muncul di berbagai video di media sosial Tiongkok - hasil dari alat AI generatif yang mudah digunakan dan tersedia secara online.
“Saya bisa melihat wajah saya dan mendengar suara saya. Tapi itu semua sangat menyeramkan, karena saya melihat diri saya mengatakan hal-hal yang tidak pernah saya katakan,” kata mahasiswa berusia 21 tahun di University of Pennsylvania itu dikutip BBC.
Akun yang menampilkan kemiripannya memiliki lusinan nama berbeda seperti Sofia, Natasha, April, dan Stacy. “Gadis-gadis” ini berbicara dalam bahasa Mandarin – bahasa yang belum pernah dipelajari Olga. Mereka rupanya berasal dari Rusia dan berbicara tentang persahabatan Tiongkok-Rusia atau mengiklankan produk-produk Rusia.
“Saya melihat 90% video tersebut berbicara tentang Tiongkok dan Rusia, persahabatan Tiongkok-Rusia, bahwa kita harus menjadi sekutu yang kuat, serta iklan makanan.”
Bagaimana begitu banyak video Olga yang bisa online?
Salah satu alasannya mungkin karena mereka mempromosikan gagasan persahabatan antara Tiongkok dan Rusia.
Beijing dan Moskow semakin dekat dalam beberapa tahun terakhir. Pemimpin Tiongkok Xi Jinping dan Presiden Rusia Putin mengatakan persahabatan antara kedua negara “tidak ada batasnya”. Keduanya dijadwalkan bertemu di Tiongkok minggu ini.
Media pemerintah Tiongkok telah mengulangi narasi Rusia yang membenarkan invasi mereka ke Ukraina dan media sosial telah menyensor diskusi mengenai perang tersebut.
“Tidak jelas apakah akun-akun ini berkoordinasi berdasarkan tujuan kolektif, tetapi mempromosikan pesan yang sejalan dengan propaganda pemerintah jelas menguntungkan mereka,” kata Emmie Hine, peneliti hukum dan teknologi dari Universitas Bologna dan KU Leuven.
“Bahkan jika akun-akun ini tidak secara eksplisit terkait dengan PKT [Partai Komunis Tiongkok], mempromosikan pesan yang selaras dapat memperkecil kemungkinan postingan mereka dihapus.”
Namun hal ini berarti masyarakat biasa seperti Olga tetap rentan dan berisiko melanggar hukum Tiongkok, para ahli memperingatkan.
Kayla Blomquist, peneliti teknologi dan geopolitik di Universitas Oxford, memperingatkan bahwa “ada risiko individu dijebak dengan konten yang dibuat secara artifisial dan sensitif secara politik” yang dapat dikenakan “hukuman cepat yang diberlakukan tanpa proses hukum”.
Dia menambahkan bahwa fokus Beijing sehubungan dengan AI dan kebijakan privasi online adalah untuk membangun hak-hak konsumen terhadap pelaku swasta yang bersifat predator, namun menekankan bahwa “hak-hak warga negara dalam kaitannya dengan pemerintah masih sangat lemah”.
Ms Hine menjelaskan bahwa “tujuan mendasar dari peraturan AI Tiongkok adalah untuk menyeimbangkan menjaga stabilitas sosial dengan mendorong inovasi dan pembangunan ekonomi”.
“Meskipun peraturan yang ada dalam buku ini tampak ketat, terdapat bukti adanya penegakan selektif, khususnya aturan pemberian lisensi AI generatif, yang mungkin dimaksudkan untuk menciptakan lingkungan yang lebih ramah terhadap inovasi, dengan pemahaman diam-diam bahwa undang-undang tersebut memberikan dasar untuk melakukan tindakan keras terhadap AI. jika perlu,” katanya.
‘Bukan korban terakhir’
Namun dampak kasus Olga jauh melampaui Tiongkok. Kasus ini menunjukkan sulitnya mengatur industri yang tampaknya berkembang dengan sangat cepat, dan regulator terus berupaya mengejar ketertinggalan. Namun bukan berarti mereka tidak berusaha.
Pada bulan Maret, Parlemen Eropa menyetujui UU AI, yang merupakan kerangka komprehensif pertama di dunia untuk membatasi risiko teknologi. Dan pada bulan Oktober lalu, Presiden AS Joe Biden mengumumkan perintah eksekutif yang mewajibkan pengembang AI untuk berbagi data dengan pemerintah.
Meskipun peraturan di tingkat nasional dan internasional mengalami kemajuan yang lambat dibandingkan dengan pesatnya pertumbuhan AI, kita memerlukan “pemahaman yang lebih jelas dan konsensus yang lebih kuat mengenai ancaman paling berbahaya dan cara memitigasinya”, kata Ibu Blomquist.
“Namun, perbedaan pendapat di dalam dan di antara negara-negara menghambat tindakan nyata. AS dan Tiongkok adalah pemain kuncinya, namun membangun konsensus dan mengoordinasikan tindakan bersama yang diperlukan akan menjadi sebuah tantangan,” tambahnya.
Sementara itu, pada tingkat individu, tampaknya tidak banyak orang yang bisa berbuat selain tidak memposting apa pun secara online.
“Satu-satunya hal yang harus dilakukan adalah tidak memberi mereka materi apa pun untuk dikerjakan: tidak mengunggah foto, video, atau audio diri kita ke media sosial publik,” kata Hine. “Namun, pelaku kejahatan akan selalu mempunyai motif untuk meniru pihak lain, dan bahkan jika pemerintah melakukan tindakan keras, saya perkirakan kita akan melihat pertumbuhan yang konsisten di tengah-tengah peraturan yang buruk.”
Olga “100% yakin” bahwa dia tidak akan menjadi korban terakhir AI generatif. Namun dia bertekad untuk tidak membiarkan hal itu mengusirnya dari internet.
Dia telah berbagi pengalamannya di saluran YouTube-nya, dan mengatakan beberapa pengguna online Tiongkok telah membantunya dengan berkomentar di bawah video menggunakan kemiripannya dan menunjukkan bahwa video tersebut palsu.
Dia menambahkan bahwa banyak dari video ini sekarang telah dihapus.
“Saya ingin berbagi cerita saya, saya ingin memastikan bahwa orang-orang memahami bahwa tidak semua yang Anda lihat online adalah nyata,” katanya. “Saya suka berbagi ide dengan dunia, dan tidak satu pun dari penipu ini yang dapat menghentikan saya melakukan hal tersebut.”
Salah satu akun terbesar adalah “Makanan impor Natasha” dengan pengikut lebih dari 300.000 pengguna. “Natasha” akan mengatakan hal-hal seperti “Rusia adalah negara terbaik. Sangat menyedihkan bahwa negara-negara lain berpaling dari Rusia, dan perempuan Rusia ingin datang ke Tiongkok”, sebelum mulai mempromosikan produk seperti permen Rusia.
Hal ini secara pribadi membuat marah Olga, yang keluarganya masih berada di Ukraina.
Namun pada tingkat yang lebih luas, kasusnya telah menarik perhatian pada bahaya teknologi yang berkembang begitu cepat sehingga mengaturnya dan melindungi manusia menjadi sebuah tantangan nyata.
Dari YouTube hingga Xiaohongshu
Kesamaan AI Olga yang berbahasa Mandarin mulai muncul pada tahun 2023 - segera setelah dia memulai saluran YouTube yang tidak diperbarui secara berkala.
Sekitar sebulan kemudian, dia mulai menerima pesan dari orang-orang yang mengaku melihatnya berbicara dalam bahasa Mandarin di platform media sosial Tiongkok.
Penasaran, dia mulai mencari dirinya sendiri, dan menemukan AI yang mirip dengannya di Xiaohongshu - platform seperti Instagram - dan Bilibili, yang merupakan situs video mirip YouTube.
“Ada banyak sekali [akunnya]. Beberapa di bionya memiliki hal-hal seperti bendera Rusia,” kata Olga yang sejauh ini telah menemukan sekitar 35 akun yang menggunakan kemiripannya.
Setelah tunangannya men-tweet tentang akun-akun ini, HeyGen, sebuah perusahaan yang dia klaim mengembangkan alat yang digunakan untuk membuat kemiripan AI, merespons.
Mereka mengungkapkan lebih dari 4.900 video telah dibuat menggunakan wajahnya. Mereka menambahkan bahwa mereka telah memblokir gambarnya agar tidak digunakan lagi.
Seorang juru bicara perusahaan mengatakan kepada BBC bahwa sistem mereka diretas sehingga menghasilkan apa yang mereka sebut sebagai “konten tidak sah” dan menambahkan bahwa mereka segera memperbarui protokol keamanan dan verifikasi untuk mencegah penyalahgunaan lebih lanjut terhadap platform mereka.
Namun Angela Zhang, dari Universitas Hong Kong, mengatakan apa yang terjadi pada Olga “sangat umum terjadi di Tiongkok”.
Negara ini adalah “rumah bagi perekonomian bawah tanah yang mengkhususkan diri dalam pemalsuan, penyalahgunaan data pribadi, dan pembuatan deepfake”, katanya.
Hal ini terjadi meskipun Tiongkok merupakan salah satu negara pertama yang berupaya mengatur AI dan kegunaannya. Ia bahkan telah memodifikasi hukum perdatanya untuk melindungi hak kemiripan dari pemalsuan digital.
Statistik yang diungkapkan oleh departemen keamanan publik pada tahun 2023 menunjukkan pihak berwenang menangkap 515 orang karena aktivitas “tukar wajah AI”. Pengadilan Tiongkok juga telah menangani kasus-kasus di bidang ini.
