Jakarta, CNN Indonesia --
Meta, induk media sosial Instagram hingga Facebook, mengaku terus menyisir sejumlah konten berbahaya di platform media sosial mereka.
Meta memiliki beberapa teknologi untuk menyisir konten berbahaya, mulai dari deteksi berbasis teks hingga visual seperti foto dan video.
Sederet teknologi yang diterapkan Meta di platformnya hadir untuk memastikan keamanan pengguna. Teknologi tersebut sejalan dengan berbagai kebijakan keamanan mereka.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
"Kami memiliki serangkaian kebijakan yang sangat dalam dan luas yang mencakup semua masalah yang bisa Anda lihat. Eksploitasi anak-anak, perundungan dan pelecehan, humor yang kejam dan tidak sensitif, kejahatan, penipuan, dan fraud," ujar Antigone Davis, VP & Global Head of Safety Meta dalam acara Peluncuran Cerdas Digital 2025 di Jakarta, Rabu (16/4).
Davis menegaskan pihaknya bakal menghapus konten yang melanggar kebijakan ini, serta akun yang terlibat dalam perilaku berulang yang melanggar kebijakan Meta.
"Kami akan melakukan hal ini tidak hanya melalui mekanisme pelaporan kami, tetapi juga melalui teknologi yang kami bangun untuk secara proaktif mencoba menemukan pelanggaran-pelanggaran ini di platform kami," imbuhnya.
Teknologi yang menyisir pelanggaran konten Meta dilatih untuk menemukan sinyal-sinyal tertentu. Sebagai contoh, beberapa teknologi mencari ketelanjangan dalam foto, sementara teknologi lain belajar memahami teks.
Awalnya, teknologi pengenalan ini mungkin tidak terlalu yakin apakah sebuah konten berbahaya atau tidak. Kemudian, tim peninjau akan mengonfirmasi hasil penilaian teknologi, yang ke depannya membuat teknologi tersebut belajar atas setiap keputusan manusia.
Seiring berjalannya waktu, teknologi ini akan memiliki akurasi yang lebih baik usai ribuan kali pembelajaran yang didapatkan.
Teknologi Meta akan mengambil tindakan terhadap konten baru, jika konten tersebut sama atau hampir sama dengan konten lain yang melanggar. Hal ini akan membantu untuk menyisir kampanye misinformasi yang viral, meme, dan konten lain yang dapat menyebar dengan sangat cepat.
"Di semua pekerjaan yang kami lakukan, kami membangun teknologi untuk mencoba mengidentifikasi pelanggaran kebijakan kami di platform. Namun selain teknologi itu, kami juga mencoba membangun teknologi untuk pengguna," tutur Davis.
Davis mengaku ada beberapa kasus yang mungkin tidak bisa dideteksi oleh teknologinya.
Sebagai contoh, kasus perundungan dan pelecehan biasanya bersifat sangat personal. Hal semacam ini mungkin tidak bisa diidentifikasi oleh teknologi yang dimiliki Meta.
Ia mencontohkan bagaimana remaja yang pergi ke sekolah. Ketika mereka di sekolah, mereka diolok-olok karena pakaian yang mereka kenakan.
Di platform, perundung mungkin menulis sesuatu yang mengatakan baju yang bagus atau rok yang bagus, tetapi dengan maksud menyindir dan merundung.
"Tidak ada cara bagi teknologi untuk mengidentifikasinya, terang Davis.
Dalam kasus semacam ini, ia menyebut pihaknya memiliki fitur filter yang bisa dimanfaatkan pengguna.
Fitur ini memungkinkan seseorang yang mengetahui bahwa mereka dirundung karena masalah tertentu untuk memasukkan kata-kata yang digunakan untuk merundung mereka ke dalam filter ini untuk menghapusnya dari pengalaman penggunaan di platform Meta.
Akun remaja
Dalam kesempatan tersebut, Meta juga mengumumkan peluncuran fitur keamanan tambahan untuk Akun Remaja Instagram. Fitur ini bertujuan memperkuat perlindungan bagi pengguna remaja, sekaligus menjawab kekhawatiran orang tua dan pemerintah mengenai keamanan remaja di dunia digital.
Selain perlindungan bawaan yang diterapkan oleh fitur Akun Remaja, Meta menambahkan batasan baru untuk Instagram Live dan gambar yang tidak diinginkan dalam DM.
Dengan perubahan ini, remaja di bawah 16 tahun tidak akan bisa melakukan sesi Live, kecuali sudah mendapatkan izin dari orang tua mereka. Remaja di bawah 16 tahun juga harus mendapatkan izin orang tua untuk mematikan fitur pengamanan Meta yang memburamkan gambar yang mengandung ketelanjangan dalam DM.
Pembaruan ini disebut akan tersedia dalam beberapa bulan ke depan.
(lom/dmi)
