SUARAMALANG.COM, TEKNO – Teknologi kecerdasan artifisial atau artificial intelligence (AI) membuat penipuan digital memasuki tahap yang semakin sulit dikenali. Pelaku kini dapat memanfaatkan voice cloning untuk meniru suara seseorang hingga membuat video deepfake yang menyerupai orang asli.
Risikonya menjadi lebih serius ketika teknologi tersebut digunakan untuk meyakinkan korban dalam transaksi keuangan. Permintaan transfer yang sebelumnya bisa dicurigai dari nomor asing atau bahasa yang janggal, kini dapat datang dengan suara dan wajah yang terlihat familiar.
Otoritas Jasa Keuangan (OJK) melalui Satgas PASTI telah mengingatkan masyarakat mengenai penipuan menggunakan AI, termasuk tiruan suara dan wajah. OJK menyarankan masyarakat melakukan verifikasi melalui saluran komunikasi lain sebelum memenuhi permintaan uang atau informasi pribadi.
Deepfake Keuangan Bukan Sekadar Video Palsu
Deepfake pada dasarnya merupakan konten sintetis yang dibuat atau dimanipulasi menggunakan AI sehingga wajah, suara, atau gerakan seseorang dapat dibuat menyerupai kondisi nyata.
Dalam konteks keuangan, teknologi ini dapat menjadi bagian dari skema social engineering, yakni penipuan yang memanfaatkan manipulasi psikologis agar korban melakukan tindakan tertentu.
Contohnya, seseorang bisa menerima panggilan yang suaranya menyerupai anggota keluarga dan meminta transfer karena alasan darurat. Modus lain dapat berupa video yang seolah-olah berasal dari pimpinan perusahaan, petugas layanan keuangan, atau seseorang yang dikenal korban.
Masalahnya, keaslian wajah dan suara tidak lagi menjadi bukti yang cukup untuk memastikan identitas seseorang. OJK sendiri telah mengingatkan bahwa AI dapat digunakan untuk meniru suara dan membuat video palsu dengan wajah serta ekspresi seseorang secara meyakinkan.
Agentic AI Membuat Risiko Tata Kelola Makin Kompleks
Perkembangan AI juga tidak berhenti pada teknologi yang hanya menghasilkan teks, gambar, atau video. Pemerintah mulai menyoroti agentic AI, yaitu sistem AI yang dapat merencanakan, mengambil keputusan, dan menjalankan tindakan secara lebih mandiri.
Wakil Menteri Komunikasi dan Digital Nezar Patria menyebut agentic AI berpotensi mengambil keputusan hingga menjalankan transaksi ketika diberi otoritas tertentu. Kondisi tersebut membuat persoalan tanggung jawab dan pengawasan menjadi semakin penting, khususnya ketika AI digunakan dalam sektor keuangan.
Artinya, tantangan regulasi AI tidak hanya berkaitan dengan konten palsu. Pemerintah juga perlu memastikan siapa yang bertanggung jawab ketika sistem AI membuat keputusan yang berdampak pada konsumen, bagaimana keputusan tersebut diawasi, serta bagaimana risiko dapat dideteksi sejak awal.
Komdigi sebelumnya menyatakan bahwa pendekatan tata kelola AI akan memperhatikan prinsip berbasis risiko. Untuk sektor strategis seperti keuangan, mitigasi risiko juga akan disesuaikan dengan karakteristik sektor tersebut.
Regulasi AI Indonesia Sedang Disiapkan
Penguatan tata kelola AI di Indonesia bukan sekadar wacana. Komdigi bersama kementerian dan lembaga terkait telah menyelesaikan pembahasan lintas sektor terhadap Rancangan Peraturan Presiden atau RPerpres tentang Etika Kecerdasan Artifisial dan Peta Jalan Kecerdasan Artifisial Nasional 2026–2029 pada Mei 2026.
Kedua rancangan tersebut disiapkan sebagai landasan pengembangan ekosistem AI yang etis, aman, dan bertanggung jawab. Komdigi juga menyebut proses penyusunannya telah melalui konsultasi publik, diskusi dengan pemangku kepentingan, serta harmonisasi lintas kementerian.
Dalam strategi nasional yang disiapkan pemerintah, transparansi dan pelabelan konten sintetis juga menjadi bagian dari pendekatan berbasis risiko. Komdigi menyebut pengembangan teknologi watermark tak kasatmata dapat membantu mengidentifikasi konten hasil AI.
Namun, hal ini tidak berarti seluruh konten AI saat ini sudah otomatis memiliki tanda yang dapat dikenali masyarakat. Karena itu, label atau watermark sebaiknya dipandang sebagai salah satu lapisan perlindungan, bukan satu-satunya cara menentukan apakah sebuah video atau suara benar-benar asli.
Kenapa Label AI Saja Tidak Cukup?
Pelabelan konten AI dapat membantu pengguna memahami asal sebuah materi. Namun, dalam skenario penipuan keuangan, persoalannya bukan hanya apakah sebuah video dibuat dengan AI.
Penipu dapat menggabungkan berbagai teknik sekaligus, mulai dari mencuri foto profil, mengambil potongan suara dari media sosial, membuat akun yang menyerupai identitas asli, kemudian menghubungi korban melalui aplikasi pesan.
Karena itu, masyarakat tidak seharusnya menganggap sebuah video atau panggilan sebagai bukti identitas hanya karena wajah dan suaranya terlihat meyakinkan. Konteks komunikasi dan tindakan yang diminta tetap harus diperiksa.
Kenali Tanda Deepfake Saat Menerima Panggilan atau Video
Mengenali deepfake tidak selalu mudah. Bahkan, semakin berkembang teknologi AI, semakin sulit mengandalkan satu ciri visual untuk menentukan keaslian sebuah video.
Meski begitu, ada beberapa tanda yang dapat menjadi alasan untuk melakukan pemeriksaan tambahan:
- Permintaan uang muncul secara mendadak. Waspadai panggilan atau video yang tiba-tiba meminta transfer, pembayaran, atau pengiriman saldo.
- Alasannya dibuat mendesak. Kalimat seperti harus transfer sekarang, jangan beri tahu siapa pun, atau kesempatan hanya berlaku beberapa menit perlu diperlakukan sebagai sinyal untuk berhenti sejenak.
- Identitas terlihat benar, tetapi konteksnya tidak biasa. Wajah atau suara orang yang dikenal tidak otomatis berarti permintaan tersebut benar-benar berasal dari orang itu.
- Gerakan wajah atau suara terasa janggal. Perubahan ekspresi, sinkronisasi bibir, intonasi, jeda bicara, atau suara latar yang tidak konsisten dapat menjadi petunjuk, meski tidak bisa dijadikan bukti tunggal.
- Pengirim meminta informasi rahasia. PIN, OTP, kata sandi, kode keamanan, dan data perbankan tidak seharusnya diberikan hanya karena seseorang terlihat atau terdengar seperti pihak yang dikenal.
- Saluran komunikasi berubah secara tiba-tiba. Misalnya, seseorang yang biasanya berkomunikasi melalui telepon tiba-tiba meminta transaksi melalui akun baru atau nomor berbeda.
OJK secara khusus menyarankan masyarakat berhati-hati terhadap suara atau video yang terasa tidak biasa, sekalipun datang dari orang yang dikenal. OJK juga menekankan pentingnya verifikasi melalui saluran komunikasi lain.
Jangan Uji Keaslian Deepfake Hanya dari Wajah dan Suara
Salah satu kesalahan yang mudah dilakukan adalah mencoba menentukan keaslian hanya dengan memperhatikan wajah atau mendengarkan suara.
Dalam praktiknya, masyarakat tidak selalu memiliki alat forensik digital untuk memastikan sebuah rekaman merupakan hasil AI. Karena itu, pendekatan yang lebih aman adalah menguji konteks dan identitas, bukan hanya kualitas audiovisual.
Jika seseorang yang dikenal meminta transfer melalui panggilan video, tutup komunikasi tersebut lalu hubungi orang yang bersangkutan menggunakan nomor atau kanal yang sudah tersimpan sebelumnya. Jangan menggunakan nomor yang baru diberikan dalam percakapan tersebut untuk melakukan verifikasi.
Jika permintaan mengatasnamakan bank, perusahaan, marketplace, atau layanan keuangan, gunakan aplikasi, situs, atau nomor layanan resmi untuk melakukan pengecekan. Jangan mengikuti nomor telepon atau tautan yang diberikan oleh pihak yang sedang meminta transaksi.
Lima Langkah Sebelum Mengirim Uang
Untuk transaksi keuangan sehari-hari, masyarakat dapat menerapkan pola sederhana: berhenti, cek, verifikasi, baru transaksi.
- Jangan langsung transfer. Beri jeda meskipun penelepon mengatakan situasinya darurat.
- Periksa identitas pengirim. Jangan menjadikan wajah atau suara sebagai satu-satunya bukti.
- Gunakan kanal berbeda. Hubungi orang atau institusi melalui nomor resmi yang sudah Anda miliki.
- Periksa rekening dan detail transaksi. Pastikan nama penerima dan tujuan pembayaran sesuai dengan transaksi yang sebenarnya.
- Simpan bukti. Jika terdapat indikasi penipuan, simpan percakapan, nomor rekening, nomor telepon, tautan, tangkapan layar, serta bukti transfer.
Jika sudah menjadi korban penipuan transaksi keuangan, OJK menyediakan Indonesia Anti-Scam Centre untuk menerima laporan dan mempercepat koordinasi penanganan dengan lembaga keuangan terkait. OJK juga menyarankan korban segera membuat laporan kepada aparat penegak hukum.
Bagaimana Peran Bank dan Platform Digital?
Perlindungan terhadap deepfake tidak dapat sepenuhnya dibebankan kepada pengguna. Lembaga keuangan dan platform digital juga memiliki peran penting karena mereka mengelola sistem transaksi, identitas, serta mekanisme keamanan.
OJK telah mencatat bahwa penggunaan AI di sektor jasa keuangan memiliki manfaat untuk mendeteksi aktivitas mencurigakan, tetapi juga membawa risiko seperti deepfake dan kemampuan sistem mengambil keputusan secara mandiri. Karena itu, penggunaan AI dalam layanan keuangan perlu disertai pengelolaan risiko dan pengawasan yang memadai.
Di sisi pemerintah, Komdigi mendorong konsep security by design, yakni keamanan dirancang sejak awal dalam pembangunan teknologi dan proses bisnis, bukan baru ditambahkan setelah serangan terjadi. Pendekatan ini menjadi semakin relevan ketika AI digunakan untuk membuat rekayasa sosial yang lebih sulit dikenali.
Deepfake Mengubah Cara Masyarakat Memverifikasi Identitas
Perkembangan AI membawa satu perubahan penting dalam keamanan digital: identitas tidak lagi cukup diverifikasi berdasarkan apa yang terlihat atau terdengar.
Wajah yang familiar bisa direkayasa. Suara seseorang dapat ditiru. Bahkan, teknologi AI kini mulai mampu melakukan tindakan secara lebih mandiri melalui agentic AI.
Karena itu, keamanan transaksi keuangan membutuhkan verifikasi berlapis. Bagi pengguna, langkah sederhana seperti menelepon balik melalui nomor yang sudah dikenal atau mengecek transaksi melalui aplikasi resmi dapat menjadi penghalang penting sebelum uang berpindah tangan.
Sementara itu, pemerintah dan industri perlu memastikan inovasi AI berjalan bersama mekanisme transparansi, keamanan, akuntabilitas, dan perlindungan konsumen. Komdigi menyebut prinsip-prinsip tersebut menjadi bagian dari fondasi tata kelola AI yang sedang dibangun di Indonesia.
Pada akhirnya, masyarakat tidak perlu menjadi ahli AI untuk menghadapi deepfake. Kebiasaan paling penting justru sederhana: jangan terburu-buru percaya, jangan memberikan data rahasia, dan selalu verifikasi melalui kanal yang berbeda sebelum melakukan transaksi.
