Jakarta, CNN Indonesia --
Teknologi kecerdasan buatan (AI) tak hanya bisa dimanfaatkan untuk hal produktif, tetapi juga motif jahat. Salah satu produk jahat teknologi AI adalah deepfake yang saat ini cukup marak.
Belakangan viral di unggahan media sosial, termasuk X, yang mengabarkan dugaan pelecehan oleh pemuda inisial SL. Pemuda yang disebut mahasiswa Universitas Udayana itu kerap mengedit foto-foto perempuan menjadi foto asusila dan korbannya diduga sudah banyak.
Selain itu, belum lama ini Ditressiber Polda Jawa Timur juga berhasil menangkap tiga pelaku penipuan yang mencatut nama Gubernur Khofifah Indar Parawansa. Dalam aksinya, mereka memanipulasi atau merekayasa video Khofifah menggunakan deepfake.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Lantas, apa strategi pemerintah menghadapi maraknya penyalahgunaan AI, khususnya deepfake ini?
Pada awal April, Wakil Menteri Komunikasi dan Digital Nezar Patria telah menyoroti masalah konten deefake yang intensitasnya semakin tinggi. Ia lantas meminta masyarakat mewaspadai berbagai aksi kriminalitas dan penipuan yang memanfaatkan teknologi AI semacam ini.
"Kita bisa menyaksikan sekarang video-video yang dihasilkan oleh AI itu nyaris sempurna, banyak orang bahkan terkecoh, bukan hanya orang awam, para ekspert pun kadang-kadang terkecoh dengan video ataupun foto yang dihasilkan karena sangat mirip dengan yang asli," katanya dalam Syawal Fest PW GP Ansor Jawa Timur di Jatim International Expo, Surabaya, Minggu (13/4).
Nezar juga memberi contoh lain penyalahgunaan AI dalam bentuk pemalsuan bukti transfer bank untuk menipu nasabah agar meyakini bahwa mereka telah menerima transfer uang di rekening.
"Bukti transfer itu bisa dengan cepat dibuat, bahkan sampai dengan hologram yang ada di belakangnya, itu juga bisa ditiru," tuturnya.
Saat ini belum ada aturan yang mengawal penggunaan AI. Pemerintah baru sekadar menerbitkan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial untuk merespons teknologi yang tengah berkembang tersebut.
Komdigi menggunakan sederet instrumen hukum untuk mencegah kejahatan berbasis AI, mulai dari Undang-Undang Informasi dan Transaksi Elektronik (ITE), Undang-Undang Pelindungan Data Pribadi (PDP), Kitab Undang-Undang Hukum Pidana (KUHP), hingga Undang-Undang Hak Cipta.
Nezar menyadari modus kejahatan dengan teknologi AI terus berkembang sehingga dibutuhkan regulasi yang lebih khusus.
"Perkembangan penggunaan AI untuk memanipulasi dan menciptakan sesuatu yang baru itu jauh lebih cepat dari peraturan-peraturan yang kita hasilkan," katanya.
Nezar menyatakan saat ini pihaknya tengah menyusun sebuah peta jalan pengembangan AI. Tujuannya adalah agar pemanfaatan teknologi AI di Indonesia dapat digunakan secara lebih positif serta mampu memitigasi risiko negatif yang mungkin terjadi.
Ahli Keamanan Siber Alfons Tanujaya menyebut kebijakan yang secara khusus mengawal teknologi AI perlu didukung. Menurutnya, aturan semacam ini nantinya juga perlu dibarengi dengan penindakan hukum yang tegas.
"Kalau untuk hal ini [aturan AI] patut didukung dan harus diikuti dengan penindakan hukum yang tegas supayapelakunyajera," ujar Alfons kepada CNNIndonesia.com, Rabu (30/4).
Deepfake porn yang menyalahgunakan teknologi AI untuk membuat konten ketelanjangan menjadi salah satu masalah turunan masalah deepfake.
Di Inggris, Komisi Anak negara tersebut mengajukan pemblokiran pada platform yang digunakan untuk membuat konten deepfake porn anak-anak.
Ketika ditanya apakah Indonesia perlu mendorong hal serupa, Alfons mengatakan perlunya tindakan tegas jika memang pemanfaatan teknologi melanggar norma dan etika atau hukum di Indonesia.
"Kalau melanggar Norma dan etika Indonesia atau melanggar hukum seharusnya memang diprosesdengantegas," tuturnya.
Sebagai informasi, deepfake adalah pemanfaatan AI untuk menghasilkan video atau audio yang benar-benar baru dengan tujuan akhir untuk menggambarkan sesuatu yang tidak terjadi di kenyataan.
Istilah deepfake menggabungkan kata deep, yang diambil dari teknologi deep-learning AI atau sebuah jenis pembelajaran mesin yang melibatkan beberapa tingkat pemrosesan, dan fake, yang merujuk pada konten tidak nyata.
Selain pembuatan konten seksual, deepfake sendiri sering digunakan untuk menciptakan informasi yang salah, menimbulkan kebingungan tentang hal penting secara politik, hingga penipuan.
Beberapa kasus deepfake yang ramai dibicarakan adalah Mantan Presiden Joko Widodo berbicara bahasa Mandarin pada 2023, gambar porno Taylor Swift pada 2024, serta Presiden Prabowo Subianto berbicara soal bantuan pribadi Rp50 juta pada awal 2025.
Cara Agar Tak Jadi Korban Pornografi Deepfake (Foto: CNN Indonesia/Agder Maulana)
(lom/dmi)
