Komdigi Sebut Konten AI di Medsos Tanpa Label untuk Tipu-tipu

Jakarta, CNN Indonesia --

Kementerian Komunikasi dan Digital (Komdigi) menyebut banyak konten di ruang digital dibuat dengan kecerdasan buatan (AI) tetapi tidak diberi label AI. Praktik semacam ini disebut tidak etis.

"Kita masih melihat video atau gambar AI yang tidak mencantumkan logo produk AI. Saya pikir itu tidak etis," kata Wamenkomdigi Nezar Patria dalam keterangannya, Rabu (22/10).

Nezar mengatakan perkembangan AI semakin pesat dan melahirkan berbagai inovasi yang membantu pekerjaan manusia.

Namun, AI juga mungkin dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab untuk melakukan kejahatan siber dengan memproduksi konten hoaks dan disinformasi, termasuk diantaranya konten deepfake.

Maka dari itu, Nezar menegaskan pentingnya upaya mitigasi kejahatan siber deepfake berbasis AI yang semakin marak terjadi di dunia digital.

"Produk deepfake berbasis AI ini, ketika digunakan untuk melakukan kejahatan, sungguh luar biasa dapat menipu masyarakat," tuturnya.

Nezar mengungkapkan jumlah kerugian akibat modus penipuan dengan memanfaatkan AI dilaporkan telah mencapai Rp700 miliar sehingga perlu upaya mitigasi untuk mencegah terjadinya kejahatan ini.

Saat ini, pemerintah tengah menyusun Peta Jalan AI Nasional yang mengharuskan para pengembang AI bersikap akuntabel dan transparan.

Sebelumnya, Nezar menyebut draf aturan AI akan selesai pada bulan ini. Namun, masih ada tahap yang perlu dilewati sebelum aturan benar-benar disahkan.

"Bulan ini drafnya selesai, tapi kan ada proses lagi karena setiap peraturan itu kan ada proses harmonisasi dan lain-lain dilihat agar dia tidak overlap dengan peraturan-peraturan yang ada," ujarnya di sela Forum Talenta Digital Komdigi, Jakarta, Jumat (17/10).

Nezar mengatakan aturan AI dan Peta Jalan AI yang tengah difinalisasi membahas tentang keamanan dan keselamatan pengembangan serta penggunaan AI.

Secara garis besar, Peta Jalan AI akan berupaya membuat keseimbangan antara inovasi yang dilakukan dengan proteksi terhadap risiko-risko yang akan terjadi.

"Jadi mencari balance antara inovasi dan proteksi, spiritnya itu, kita maksimalkan manfaatnya dari artificial intelligence ini, kita minimalkan risiko-risiko yang muncul," jelasnya.

(lom/mik)

[Gambas:Video CNN]