Suaramalang – Penipuan di media sosial Facebook dan Instuagram membuat induk perusahaan kedua perusahaan, Meta, mengambil langkah baru. Hal ini terkait dengan beredarnya gambar palsu yang dibuat oleh AI.
Deepfakes adalah konten buatan AI yang sulit dibedakan dari foto, video, dan suara asli. Konten deepfake kini semakin mudah dibuat menggunakan berbagai platform yang menyediakan teknologi AI generatif.
Nick Clegg, Presiden Urusan Global di Meta, mengatakan kebijakan untuk memantau dan memberi label pada konten yang dihasilkan AI akan berlaku untuk konten yang dibuat menggunakan platform Meta dan platform di luar Meta.
Konten yang dihasilkan AI dapat dikenali melalui “cap” tak kasat mata yang tertanam di file gambar. Jika cap tersebut terdeteksi, Meta akan memberikan label khusus pada konten yang diunggah di Facebook, Instagram, dan Threads.
Saat ini, kebijakan dan fitur pemantauan AI tersedia untuk konten yang dibuat menggunakan teknologi Meta. Dalam beberapa bulan mendatang, sistem yang sama akan diterapkan pada konten yang dibuat oleh platform milik OpenAI, Midjourney, Shutterstock, dan Google.
Menurut Reuters, langkah Meta menunjukkan arah kebijakan media sosial dan platform internet untuk mengurangi dampak negatif penyebaran konten palsu buatan AI.
Metode serupa telah diterapkan selama 10 tahun terakhir untuk menghapus konten terlarang seperti konten yang menggambarkan kekerasan dan eksploitasi anak.
Clegg yakin sistem Meta dapat mengenali setiap gambar hasil AI yang diunggah ke platformnya. Meski demikian, perusahaan yang didirikan oleh Mark Zuckerberg ini masih menyempurnakan sistem yang sama untuk mengenali video dan audio yang dihasilkan AI.
“Meskipun teknologi ini masih baru, khususnya untuk audio dan video, kami berharap dapat menciptakan momentum dan insentif yang akan diikuti oleh pelaku industri lainnya,” ujarnya kepada Reuters.
Hingga sistem identifikasi sempurna, Meta akan meminta pengguna Instagram dan Facebook untuk memberi label pada konten audio dan video yang telah direkayasa. Pelanggar kebijakan ini akan dikenakan sanksi.
Salah satu konten buatan AI yang belum dapat diidentifikasi oleh teknologi adalah teks yang dihasilkan AI, seperti yang dihasilkan oleh ChatGPT.
Meta juga bungkam tentang rencananya untuk menyebarkan konten buatan AI di WhatsApp.
Penipuan deepfake
Konten deepfake kini juga mulai digunakan untuk penipuan online. Seorang pekerja keuangan di sebuah perusahaan multinasional ditipu untuk membayar US$25 juta (Rp 392,97 miliar) kepada penipu menggunakan teknologi deepfake.
Menurut polisi Hong Kong, penipu tersebut menyamar menggunakan deepfake sebagai kepala keuangan perusahaan dalam panggilan konferensi video.
Korban ditipu dengan diminta menghadiri video call yang disebut-sebut dihadiri beberapa staf lainnya. Tapi itu semua adalah rekreasi palsu, kata polisi Hong Kong, dikutip dari CNN International, Senin (5/2/2024).
“(Dalam) video conference yang dihadiri banyak orang, ternyata semua… [dia lihat] itu salah,” kata pengawas senior Baron Chan Shun-ching kepada stasiun penyiaran publik kota RTHK.
Chan mengatakan karyawan tersebut menjadi curiga setelah dia menerima pesan yang mengaku berasal dari kepala keuangan perusahaan yang berbasis di Inggris. Awalnya, karyawan tersebut menduga itu adalah email phishing karena berisi permintaan untuk melakukan transaksi rahasia.
Namun, karyawan tersebut mengesampingkan keraguan awalnya setelah panggilan video tersebut. Sebab, kata Chan, orang lain yang hadir terlihat dan terdengar seperti rekan kerja yang dikenalnya.
Oleh karena itu, karyawan tersebut menyetujui pengiriman total US$200 juta dolar Hong Kong atau sekitar Rp 392,97 miliar.
Kasus ini adalah salah satu dari banyak kasus yang melibatkan teknologi deepfake. Pada konferensi pers Jumat lalu, polisi Hong Kong mengatakan mereka telah melakukan enam penangkapan sehubungan dengan penipuan tersebut.
