Korban Deepfake AI Berjatuhan, Sudah Tahu Palsu Tetap Termakan

Jakarta, TheStanceID – Kemampuan Artificial Intelligence (AI) dalam membuat video deepfake marak dipakai untuk menjalankan modus penipuan di masyarakat. Modus penipuan usang, tapi berbekal teknologi terbaru.

Jajaran penyidik Direktorat Tindak Pidana Siber (Dittipidsiber) Bareskrim Polri baru-baru ini menangkap satu tersangka kasus penipuan menggunakan deepfake, dengan memanipulasi video Presiden Prabowo Subianto dan pejabat lainnya.

Penipuan ini dilakukan tersangka bersama seseorang berinisial FA yang kini masuk Daftar Pencarian Orang (DPO). Modusnya adalah menggunakan deepfake untuk membuat seolah-olah ada bantuan dari pemerintah melalui akun media sosial.

“Kejahatan ini merupakan sindikat. Tersangka dibantu FA yang kini kami tetapkan DPO. FA bertugas menyiapkan video deepfake atau yang mengeditnya,” kata Direktur Tindak Pidana Siber Bareskrim Polri Brigadir Jenderal Himawan Bayu Aji di Jakarta, Kamis, (23/1/2025) seperti dikutip Liputan6.

Menurut Himawan, tersangka memproduksi, mengunggah, dan menyebarluaskan video berbasis deepfake dengan memanfaatkan foto dan suara pejabat, seperti Presiden Prabowo, Wakil Presiden Gibran Rakabuming Raka, dan Menteri Keuangan Sri Mulyani.

Dalam video yang sudah diedit itu, Prabowo dan pejabat lainnya terlihat seolah-olah membagikan bantuan atau hadiah kepada masyarakat. Video diunggah ke media sosial, dengan mencantumkan nomor WhatsApp yang dapat dihubungi calon korban.

”Jadi, bagi yang mau saya bantu, segera hubungi saya di bio. Dan perhatian, untuk kalian yang sudah dapat, tolong gunakan bantuan ini dengan baik dan bijak, ya,” ujar sosok Prabowo palsu dalam video berdurasi 15 detik di akun tiktok @prabowo.subianto1523 pada pertengahan Januari 2025, yang kini telah dihapus.

Para korban diarahkan untuk mengisi pendaftaran penerima bantuan dan mentransfer sejumlah uang dengan alasan biaya administrasi. Lalu, korban dijanjikan pencairan dana oleh tersangka, padahal sebenarnya dana bantuan tersebut tidak pernah ada.

Menurut Himawan, ada 11 orang yang menjadi korban atas kejahatan deepfake. Mereka berasal dari berbagai wilayah di antaranya Jawa Timur dan Sumatera Selatan.

"Total keuntungan yang diterima tersangka kurang lebih sebesar Rp30 juta selama empat bulan terakhir," jelasnya.

Berdasarkan pengakuan tersangka AMA, kegiatan penipuan ini sudah dilakukan sejak 2020 dengan konten-konten yang disebarkan berupa video deepfake pejabat negara dan sejumlah tokoh ternama di Indonesia.

Oleh penyidik, tersangka AMA dijerat dengan Pasal 51 ayat 1 juncto Pasal 35 Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik.

Lalu Pasal 378 KUHP, dengan ancaman hukuman penjara paling singkat 4 tahun dan paling lama 12 tahun dan denda paling banyak Rp12 miliar.

Konten deepfake sudah terdeteksi oleh Kementerian Komunikasi dan Informatika (Kemenkominfo). Per September 2024, mereka mengeklaim menurunkan atau menghapus ribuan akun dan konten deepfake.

“Mungkin ribuan konten, ribuan akun atau konten yang di-take down,” kata Direktur Jenderal Informasi dan Komunikasi Publik Kemenkominfo saat itu, Prabu Revolusi, seperti dikutip Tempo.

Menurut dia, penghapusan konten dan akun deepfake itu dilakukan baik dari inisiatif Kemenkominfo maupun platform-platform yang kedapatan mengandung konten deepfake.

Waktu terus berganti, sosok pejabat dan kementerian pun boleh berganti.

Prabu dicopot dari posisinya pada 24 November 2024. Kemenkomindo pun telah berubah nomenklatur menjadi Kementerian Komunikasi dan Digital (Komdigi).

Namun demikian, aksi penipuan berbasis deepfake tetap saja marak.

Selain memakai wajah pejabat, pelaku penipuan deepfake juga memakai wajah artis. Modus ini bahkan berlangsung sejak 4 tahun yang lalu.

Pada pertengahan Juli 2021, media sosial dihebohkan dengan modus penipuan yang melibatkan wajah selebritis Baim Wong.

Pelaku penipuan tersebut membuat video call palsu yang seolah-olah menunjukkan Baim Wong sedang berbicara langsung. Namun, pelaku penipuan gagal melancarkan aksinya setelah mengetahui calon korbannya seorang pegawai kejaksaan.

"Ini udah keterlaluan .. (Sudah Temen2 deket saya yg kasih info .. kayanya udah ga bisa diem lagi ..)," tulis Baim di akun Instagram pada Rabu, 7 Juli 2021.

Sebagai informasi, Baim Wong adalah artis yang dikenal kerap tampil dengan konten membagikan hadiah atau giveaway kepada para pengikutnya. Hal inilah yang dimanfaatkan para pelaku penipuan.

Tidak hanya di dalam negeri, kasus penipuan dengan modus menggunakan manipulasi wajah atau deepfake juga terjadi di mancanegara. Desainer interior asal Perancis, Anne (53 tahun), menjadi salah satu korbannya.

Tak tanggung-tanggung, pelaku melakukan penipuan online dengan menggunakan wajah aktor Hollywood, Brad Pitt. Akibatnya, wanita itu menderita kerugian mencapai US$850.000 atau sekitar Rp13 miliar.

Awalnya, si pelaku mengirim pesan di instagram Anne dan mengaku dari akun yang diklaim dikelola oleh ibu Brad Pitt, Jane Etta Pitt. Isinya meminta bantuan untuk putranya, walaupun sebenarnya palsu.

"Dia berkata bahwa putranya membutuhkan seseorang seperti saya," kata Anne, seperti dilaporkan TechSpot. 

Seperti halnya orang kebanyakan, Anne mulanya yakin bahwa akun itu palsu. Namun dia tetap menanggapi akun tersebut, karena memang berekspektasi bahwa semuanya adalah nyata.

Anne yang mengidolakan artis Hollywood tersebut mengaku terhipnotis, dan menjalin romantika online selama 2 tahun dengan Brad Pitt palsu.

Dalam kurun waktu tersebut, dia mengirim uang ke Brad Pitt palsu demi membantunya mengatasi kanker. Dia tertipu oleh foto Brad Pitt yang sedang terbaring di rumah sakit. Padahal foto palsu tersebut dibuat dengan AI.

Anne baru sadar dirinya tertipu setelah mendapat berita bahwa Brad Pitt asli tengah menjalin hubungan dengan seorang perancang perhiasan, Ines de Ramon.

Namun semuanya terlambat. Akibat penipuan ini, selain menderita kerugian materiil, Anne juga terkena depresi berat hingga dirawat di rumah sakit.

Direktur Eksekutif Southeast Asia Freedom of Expression Network (Safenet) Nenden Sekar Arum menyarankan pemerintah segera mengumumkan kepada publik untuk berhati-hati terhadap pencatutan wajah dan suara Presiden.

“Dari penanganan kasus kalau sudah ditemukan itu [penipuan berbasis video deepfake], bagus juga langsung pemerintah lakukan edukasi lagi, literasi lagi, jangan mudah tertipu,” kata Nenden dalam keterangan tertulis, Jumat (24/01/2025).

Nenden menilai keberadaan video deepfake ini mencerminkan kurangnya sosialisasi ke masyarakat mengenai program bantuan yang ada. Hal itu juga yang berpotensi menyebabkan terjadinya disinformasi di masyarakat.

“Jadi, kalau sampai ada orang yang tertipu karena ada [informasi] soal bantuan, itu sudah pasti publik sebenarnya belum tahu itu [program] ada atau tidak,” ujarnya.

Pemerintah, kata Nenden, tidak perlu membuat kebijakan baru, karena undang-undang informasi dan teknologi elektronik (ITE) sudah mencakup aturan yang diperlukan. Yang dibutuhkan adalah aksi sosialisasi dan penegakan aturan.

Pakar keamanan siber Alfons Tanujaya menilai modus operandi pelaku penipuan berbasis deepfake tergolong sama: memalsukan akun guna menjerat korbannya agar mengirimkan uang, dengan iming-iming mendapatkan hadiah.

“Namun kali ini yang dipalsukan adalah Presiden Prabowo,” kata Alfons saat dihubungi TheStanceID, pada Senin (27/1/2025).

Modus lama itu dengan mudah berulang dan memakan korban, lanjutnya, disebabkan oleh penegakan hukum yang lemah dan tidak konsisten. Penindakan baru ditangani, jika kasusnya viral atau menyangkut pejabat penting.

Jika kasusnya hanya berkutat pada masyarakat, penanganannya lamban. “Padahal komplotan pelakunya ya itu itu saja. Kasihan orang kecil yang menjadi korban dan mengirimkan uang yang mereka cari dengan susah payah,” ucap Alfons.

Dia pun mengusulkan wewenang penindakan kejahatan siber dipindahkan kepada lembaga lain, agar reaksi dan penindakannya lebih cepat.

“Tolong dipikirkan hal ini, supaya tidak berlarut-larut. Korban penipuan menggunakan WhatsApp, nomor telepon, dan IP internet sudah banyak dan bertumpuk-tumpuk tidak ditangani, Kasihan masyarakat kecil yang menjadi korbannya.” kata Alfons.

Alfons mengingatkan siapa saja perlu waspada dan berhati-hati terhadap ancaman penipuan berbasis deepfake. Ia merekomendasikan penggunaan beberapa perangkat dan parameter dalam mengidentifikasi konten deepfake.

“Apabila ada ponsel yang bisa mengidentifikasi konten AI, gunakan saja. Apabila konten AI disempurnakan, maka aplikasi di ponsel juga harus ikut disempurnakan. Jika tidak, ponsel tidak akan mampu mengenali konten yang telah disempurnakan itu,” jelasnya.

Tidak hanya itu, masyarakat juga disarankan untuk selalu memastikan kebenaran atau melakukan cek silang atas akun media sosial yang mengatasnamakan tokoh publik. Sebab, tak jarang di antara mereka nyatanya melakukan pemalsuan tanda verifikasi.

"Hati-hati juga dengan centang biru yang dipalsukan seperti yang terjadi pada pemalsuan centang biru akun Whatsapp yang seharusnya diletakkan setelah nama akun tetapi oleh penipu diletakkan di samping logo perusahaan," tambah Alfons.

Teknologi makin cerdas, masyarakat harus meng-upgrade kemampuan mengidentifikasi penipu. Apalagi, jika pola penegakan hukumnya tak kunjung upgrade. (est)

 Untuk menikmati berita cepat dari seluruh dunia, ikuti kanal TheStanceID di Whatsapp dan Telegram.