Sosok Soeharto “hidup” kembali. Mengenakan batik berwarna kuning, berkopiah, dengan bendera merah-putih di kiri dan bendera Partai Golkar di kanannya, Soeharto mengajak agar warga memilih caleg Partai Golkar pada pemilu mendatang.
Video presiden kedua Indonesia itu diunggah politikus Partai Golkar Erwin Aksa di akun Instagram-nya. Video itu dibuat menggunakan teknologi artificial intelligence (AI) atau kecerdasan buatan yang disebut sebagai deepfake.
“Deepfake adalah konten buatan, seperti gambar, video, atau suara, yang dimanipulasi secara digital (dengan AI) untuk meniru kemiripan seseorang,” tulis Infosecurity Magazine.
Konten yang dihasilkan AI ini bisa menggambarkan orang sungguhan, mengatakan sesuatu yang tak mereka katakan atau orang yang sepenuhnya palsu.
Sebelum video Soeharto itu, pada November 2023 beredar pula deepfake video capres Anies Baswedan dan Prabowo Subianto yang berpidato menggunakan bahasa Arab. Lalu, ada pula deepfake Presiden Joko Widodo yang lancar berpidato menggunakan bahasa Mandarin.
Menurut Wired, pada 2024 ada lebih dari 50 negara yang mengadakan pemilu, termasuk Indonesia. Dalam kondisi demikian, misinformasi dan disinformasi masih menjadi alat yang ampuh untuk membentuk persepsi publik dan narasi politik.
DW menyebut, berdasarkan perkiraan DeepMedia—perusahaan yang mengembangkan alat untuk mendeteksi media sintetis—setidaknya ada 500.000-an deepfake video dan suara yang dibagikan di situs media sosial secara global pada 2023.
Dalam proses pemilu di Amerika Serikat, deepfake pun berkembang. Misalnya, pada Juni 2023 lalu, Gubernur Florida sekaligus calon presiden Amerika Serikat, Ron DeSantis menyerang rival politiknya yang juga berasal dari Partai Republik, Donald Trump dalam iklan kampanye politiknya di media sosial. Potongan-potongan video dan foto Trump disajikan, dengan penekanan dukungan mantan Presiden Amerika Serikat itu kepada penasihat medis utama Trump, Anthony Fauci.
Fauci adalah sosok kontroversial di kalangan Partai Republik karena penanganannya terhadap respons Federal saat pandemi Covid-19 yang dianggap terlalu berlebihan. Foto-foto Trump berpelukan dan ciuman dengan Fauci yang ditampilkan di video, diduga kuat adalah rekayasa AI.
Dalam proses pemilu di Bangladesh, sebut DW, muncul deepfake video yang menampilkan beberapa politikus perempuan dari pihak oposisi, Rumeen Farhana, mengenakan bikini dan Nipun Roy di kolam renang.
Salah satu masalah utama yang dikhawatirkan banyak pakar AI adalah penggunaan AI generatif untuk menyebarkan berita palsu, disinformasi, dan propaganda dengan kecepatan yang tak dapat diimbangi regulasi dan pihak berwenang.
Euronews menulis, seiring dengan kemajuan teknologi deepfake, semakin sulit pula membedakan mana yang asli dan mana yang palsu.
Ketidakmampuan mengidentifikasi gambar, video, atau suara palsu bisa menimbulkan konsekuensi serius bagi para pemilih, terutama mereka yang masih ragu-ragu siapa yang bakal dipilih. Semisal video palsu yang dipercaya asli dan dilihat jutaan orang dapat merugikan kandidat dalam pemilu.
Kepada Euronews, spesialis deepfake Henry Ajder mengatakan, ketika video AI yang dirancang untuk menyindir diambil di luar konteks, video tersebut dapat disalahartikan sebagai nyata.
“Orang-orang terkenal dan politisi sangat berisiko karena mereka banyak berbicara di depan kamera, diam, dan menatap langsung ke lensa,” ujar Ajder.
“Ini adalah bentuk video yang lebih mudah untuk dimanipulasi dibandingkan jika mereka bergerak dan profilnya berubah.”
Kepada DW, asisten profesor di Oklahoma State University yang mempelajari misinformasi mengenai pemilu di media sosial, Nuurrianti Jalli mengatakan, informasi palsu yang beredar secara online, berpotensi memengaruhi hasil pemilu di Indonesia.
“Dari penargetan mikro terhadap pemilih dengan disinformasi hingga menyebarkan narasi palsu dengan skala dan kecepatan yang tidak dapat dicapai oleh manusia saja, alat AI ini dapat secara signifikan memengaruhi persepsi dan perilaku pemilih,” kata dia.
“Dalam lingkungan di mana misinformasi sudah lazim, konten yang dihasilkan AI dapat semakin mengubah persepsi publik dan memengaruhi perilaku memilih.”
Presiden organisasi advokasi konsumen nirlaba Public Citizen, Robert Weissman mengatakan kepada City & State, mengizinkan deepfake akan melemahkan wacana politik. “Kita berbicara tentang deepfake yang dirancang untuk membodohi orang,” ujar Weissman.
Weissman menuturkan, para aktor yang menyebarkan misinformasi secara online, tak hanya bertujuan untuk membuat bingung pemilih mengenai isu dan kandidat tertentu, tetapi jug amenanamkan rasa ketidakpercayaan secara keseluruhan terhadap proses pemilu.
Ketika pemerintah di sejumlah negara memikirkan cara untuk mengurangi dampak deepfake, perusahaan raksasa teknologi tampaknya sudah memulai melakukan aneka strategi. Pada 2022, Google mulai melarang AI yang menghasilkan deepfake di platform Colaboratory-nya. Sedangkan Meta telah menghapus konden deepfake dari jejaring sosialnya sejak 2020.
Dilansir dari Wired, Youtube sudah memperkenalkan kebijakan yang lebih ketat, yang mewajibkan label pada video buatan pengguna yang memanfaatkan AI generatif.
“Baik Meta maupun YouTube mengharuskan pengiklan politik untuk mendaftar ke perusahaan tersebut, termasuk informasi tambahan seperti siapa yang membeli iklan dan di mana lokasi mereka,” tulis Wired.
“Namun sebagian besar iklan ini dilaporkan sendiri, yang berarti beberapa ikan bisa lolos dari celah perusahaan.”
Disebut Euronews, walau AI menjadi teknologi di balik deepfake, tetapi AI juga merupakan elemen penting dalam mendeteksi deepfake. Sebab, kemampuannya menjamin keaktifan dan legitimasi dalam gambar, video, atau suara, AI jauh lebih baik dalam menguraikan mana yang asli dan mana yang palsu.
“Dengan menganalisis ribuan titik data dan menelusuri bukti yang luput dari perhatian manusia, AI dapat mendeteksi konten buatan dalam hitungan detik,” tulis Euronews.
“Karena model AI menyerap data dalam jumlah besar, algoritma mereka dapat membandingkan potensi deepfake dengan video dan gambar yang diketahi untuk ditandai ketika ada sesuatu yang telah dimodifikasi.”
Namun, dikutip dari Wired, menurut seorang profesor di UC Berkeley School of Information, Hany Farid, platform media sosial telah gagal memoderasi konten secara efektif di banyak negara yang akan mengadakan pemilu tahun 2024.
“Karena tidak ada bukti selama 20 tahun terakhir bahwa platform besar ini memilii kemampuan untuk melakukan hal ini, apalagi di luar AS (Amerika Serikat),” tutur Farid.
Farid juga khawatir penekanan berlebihan terhadap AI dapat mengalihkan perhatian dari isu-isu yang lebih besar seputar disinformasi, misinformasi, dan erosi kepercayaan publik terhadap ekosistem informasi, terutama karena platform tersebut mengurangi fokus tim mereka pada integritas pemilu.
“Jika menurut Anda iklan politik yang menipu itu buruk, lalu mengapa Anda peduli dengan cara pembuatannya?” ujar Farid. “Ini bukan karena iklan politik menipu yang dibuat oleh AI, tapi ini adalah zamannya iklan politik yang menipu, titik.”
