JAKARTA,TM.ID: Wamenkominfo Nezar Patria menegaskan telah mengantisipasi peluang penyebaran disinformasi yang menggunakan teknologi AI dan deep fake, terutama menjelang Pemilihan Umum Serentak Tahun 2024.
“Melalui algoritma dan otomasi yang dapat menghasilkan bias maupun otomasi yang bersifat preskriptif serta penyalahgunaan algoritma yang berpotensi menimbulkan disinformasi,” ungkapnya dalam Seminar Nasional “Disinformasi dan Kelompok Rentan di Era Manipulasi Media Digital” di Wisma Magister Manajemen UGM, Yogyakarta melansir infopublik, Kamis (16/11/2023).
Selama 2023, data Home Security Heroes menunjukkan terdapat 95.820 video deep fake yang tersebar secara global. Teknik deep fake bisa memanipulasi video, gambar, dan suara secara digital sesuai dengan pesan yang tidak pernah terjadi di dunia nyata.
BACA JUGA : Perangi Penipuan Online, Kominfo luncurkan AduanNomor.id
“Ada peningkatan sebesar 550 persen dari tahun 2019 secara global. Hal yang sangat mengkhawatirkan karena bisa disalahgunakan dan dimanipulasi untuk penipuan, pornografi, dan tujuan jahat lain, yang berujung pada penyebaran disinformasi,” tandas Wamenkominfo.
Mengutip hasil survei UNESCO & IPSOS (2023), Wamen Nezar Patria menujukkan lebih dari 80 persen masyarakat yang akan menghadapi pemilihan umum percaya bahwa disinformasi telah berdampak pada politik di negara masing-masing dan khawatir akan dampak dari disinformasi tersebut.
“Terlebih, dampak disinformasi bisa sangat luas, mulai dari potensi polarisasi politik, penurunan kepercayaan terhadap jurnalisme hingga proses demokrasi sendiri,” tegasnya.
Nezar menilai, Di era proliferasi AI dan ancaman disinformasi yang makin intensif kelompok rentan memiliki risiko yang lebih tinggi terdampak dan menjadi korban penyalahgunaan teknologi.
Ada tiga dampak dan viktimisasi yang mungkin terjadi,
pertama, profiling yang didasarkan pada algoritma AI cenderung bias dan dapat disalahgunakan untuk menargetkan kelompok rentan.
Kedua, dalam beberapa kasus politik dan sosial yang terjadi di platform digital, persebaran disinformasi kerap ditujukan dengan sengaja menargetkan dan merugikan kelompok rentan.
Ketiga, perempuan menjadi target dalam muatan pornografi yang sengaja diciptakan melalui teknologi deepfake.
Menyikapi hal tersebut, Kementerian Kominfo memberikan perhatian penuh pada kelompok rentan seperti perempuan, masyarakat yang tinggal di area rural, kelompok disabilitas, lansia, dan kaum muda.
“Pendekatan yang inklusif mampu menghadirkan teknologi digital yang dapat diakses dan diadopsi semua orang, dan mendukung penggunaan internet serta layanan digital yang bermakna dan aman,” tandasnya.
(Usamah)
