AI “menghidupkan kembali” seorang diktator yang telah lama meninggal

CNN—

Jenderal Angkatan Darat yang pernah ditakuti dan memerintah Indonesia dengan tangan besi selama lebih dari tiga dekade ini memiliki pesan bagi para pemilih menjelang pemilu mendatang – dari alam kubur.

“Saya Suharto, presiden kedua Indonesia,” kata mantan jenderal itu dalam video berdurasi tiga menit tersebut, yang telah ditonton lebih dari 4,7 juta kali di X dan telah menyebar ke TikTok, Facebook, dan YouTube.

Meski awalnya sedikit meyakinkan, namun jelas bahwa pria berpenampilan galak dalam video tersebut bukanlah mantan presiden Indonesia. Soeharto yang asli, dijuluki “Jenderal Tertawa” karena selalu terlihat tersenyum meski gaya kepemimpinannya kejam, meninggal pada tahun 2008 dalam usia 86 tahun.

Video tersebut merupakan deepfake buatan AI yang dibuat menggunakan alat yang mengkloning wajah dan suara Soeharto. “Video ini dibuat untuk mengingatkan kita betapa pentingnya suara kita dalam pemilu mendatang,” kata Erwin Aksa, Wakil Ketua Golkar – salah satu partai politik terbesar dan tertua di Indonesia. Dia pertama kali membagikan video tersebut di X sebelum pemilu 14 Februari.

Partai ini merupakan salah satu dari 18 pemilu pada pemilu tahun ini, yang akan diikuti oleh lebih dari 200 juta pemilih yang akan datang ke tempat pemungutan suara. Golkar tidak mengajukan calon presidennya sendiri, namun telah memberikan dukungannya kepada calon terdepan, Prabowo Subianto, mantan jenderal angkatan darat di rezim Suharto yang didukung militer – dan juga mantan menantunya.

Dengan menghidupkan kembali pemimpin yang telah lama meninggal itu hanya beberapa minggu sebelum pemungutan suara, tujuan Golkar sudah jelas: untuk mendorong pemilih agar mendukung partai yang identik dengan Soeharto.

“Sebagai anggota Golkar, saya sangat bangga dengan Soeharto karena ia berhasil membangun Indonesia,” tulis Aksa di X. “Banyak kesuksesan yang dibawanya. Kita harus menghormatinya dan mengingat jasa-jasanya – Golkar ada di sana.

Namun, kritikus online mengecam penggunaan wajah dan suara orang yang meninggal tersebut, terutama untuk propaganda politik. “Inilah keadaan negara kita saat ini – kita menghidupkan diktator yang sudah mati untuk menipu dan menakut-nakuti kita agar memilih,” tulis salah satu orang Indonesia di X.

“Sejak kapan membuat deepfake dari orang mati menjadi hal yang etis? Itu sangat salah secara moral,” kata yang lain.

Dunia online memainkan peran besar dalam politik Indonesia. Di negara dengan salah satu tingkat penggunaan internet tertinggi di dunia, hampir semua partai politik dan politisi mempertahankan kehadiran mereka di media sosial untuk mendapatkan pengikut dan pengaruh.

“Deepfake dapat berdampak signifikan terhadap pemilu – baik cara kampanye dijalankan, maupun hasilnya,” kata Golda Benjamin, manajer kampanye Asia Pasifik di Access Now, sebuah organisasi nirlaba hak digital di AS.

“Bahayanya adalah seberapa cepat penyebarannya. Kepalsuan yang mendalam dapat dengan mudah menjangkau jutaan orang dalam hitungan detik, mempengaruhi dan memanipulasi (jutaan) pemilih.”

Menjelang pemungutan suara tahun ini, pengamat CNN melaporkan bahwa banyak partai besar telah beralih ke kecerdasan buatan dan menggunakan berbagai kepalsuan untuk keuntungan politik.

Video Soeharto yang diproduksi Golkar hanyalah satu dari puluhan kampanye resmi partai, kata mereka.

Darryl Ramadhan/NurPhoto/AP

Pendukung calon presiden Ganjar Pranow saat berunjuk rasa di Jakarta, 3 Februari 2024.

Muhammad Zulfan Dalimunthe/AFP/Getty Images

Calon presiden, Prabowo Subianto, menyapa massa saat berunjuk rasa di Stadion Baharuddin Siregar di Lubuk Pakam, Sumatera Utara, pada 7 Februari 2024.

Setelah mendapat kritik dari publik, tim kampanye calon presiden tiga kali, Prabowo Subianto, yang juga menjabat sebagai Menteri Pertahanan Indonesia saat ini, mengaku menggunakan perangkat lunak AI untuk membuat animasi mewah di TikTok untuk menarik pemilih muda. Mayoritas pemilih terdiri dari masyarakat Indonesia berusia 40 tahun ke bawah – yang berjumlah sekitar 114 juta pemilih.

Dalam video lain yang menuai kritik keras, anak-anak yang dihasilkan oleh kecerdasan buatan digunakan oleh sebuah partai dalam iklan TV untuk menghindari aturan yang melarang anak-anak tampil dalam kampanye politik.

“Teknologi yang digunakan sangat maju… Kami dapat memahami bahwa beberapa orang mengira (anak-anak) tersebut adalah karakter nyata,” kata Budisatrio Djiwandono, keponakan Prabow dan juru bicara partai nasionalis sayap kanan Gerindra, dalam sebuah pernyataan setelah iklan tersebut dipasang. diterbitkan. kelompok pengawas.

Partai mantan Gubernur Jawa Tengah Ganjara Pranow telah menyewa chatbot AI interaktif untuk menjangkau calon pemilih. Partai Ganjar juga menggunakan foto AI yang dibuat oleh pendukungnya dalam kampanyenya. CNN sudah menghubungi perwakilan Ganjar Partai Demokrat Perjuangan (PDIP) untuk dimintai komentar.

Kandidat presiden ketiga, mantan Gubernur Jakarta Anies Baswedan, yang kampanyenya menggunakan chatbot bertenaga OpenAI untuk menjawab pertanyaan tentang politiknya di WhatsApp, memperingatkan terhadap penggunaan AI dalam pemilu setelah menjadi korban audio deepfake pada bulan Januari. Perbincangan menyimpang soal Anies yang diduga dihukum oleh pendukung politik menyeruak di internet.

“Kita harus kritis karena sekarang sudah ada teknologi kecerdasan buatan yang bisa menghasilkan suara atau gambar yang tampak nyata,” kata Anies pada kampanye akhir bulan ini.

Kementerian Komunikasi Indonesia telah mengeluarkan peringatan menyusul beberapa video AI yang viral, memperingatkan perusahaan teknologi dan pemilih untuk berhati-hati terhadap deepfake. Namun upaya itu tidak cukup, kata kelompok pengawas kepada CNN.

TAPP (Tim Advokasi Peduli Pemilu), sebuah organisasi nirlaba yang berbasis di Jakarta, mengatakan video seperti deepfake Suharto menunjukkan potensi manipulasi pemilih oleh AI.

“Pemerintah masih belum menyadari bahaya pemalsuan yang mendalam,” kata juru bicara Gugum Ridho Putra.

“Kami tahu kemampuan AI, dan ini hanyalah permulaan,” tambahnya. “Kami prihatin dengan manipulasi pemilih, terutama menjelang pemilu.”

Staf Grace/AFP/Getty Images/File

Kaos kenang-kenangan bergambar Soeharto dengan pesan dalam bahasa Jawa: “Bukankah lebih baik di zaman saya?”

Kediktatoran Suharto selama 32 tahun dianggap oleh organisasi hak asasi manusia internasional sebagai salah satu periode paling korup dan brutal dalam sejarah Indonesia.

Ribuan orang dipenjara atau dibunuh selama pemerintahannya ketika ia menindak para pengkritik dan lawan politik serta memaksakan kekuasaan rezimnya atas Timor Timur, Aceh, Papua Barat dan Kepulauan Maluku.

Pembahasan mengenai pemerintahannya masih dianggap tabu di Indonesia, dan pendapat mengenai warisannya beragam.

Namun di tempat-tempat seperti Kemusuk, desa dekat Yogyakarta tempat ia dilahirkan, kemiripannya ada di mana-mana – mulai dari memorabilia museum yang merayakan kehidupannya hingga kaos suvenir bergambar wajah tersenyumnya. Sekarang menemukan ketenaran baru secara online.

“Virusitas video ini menunjukkan warisannya dan menunjukkan betapa relevannya video tersebut di Indonesia saat ini,” kata Soe Tjen Marching, penulis-komposer Indonesia dan akademisi di SOAS University of London. “Dia sudah meninggal bertahun-tahun, tapi dia masih punya banyak pendukung,” tambahnya. “Semangatnya masih hidup.

Namun bagi mereka seperti purnawirawan Anton Pratama, 55 tahun, yang tumbuh pada masa pemerintahan Suharto, kemunculan kembali sang diktator adalah hal yang “melucuti senjata”.

“Ini bukan soal bertemu dengannya lagi atau meyakini dia masih hidup,” kata Anton kepada CNN, seraya menambahkan bahwa putranya menunjukkan video itu kepadanya. “Dia khawatir Soeharto dan ideologinya kembali populer di Tanah Air.”