JAKARTA, TEROPONGMEDIA.ID – Kementerian Komunikasi dan Digital (Kemkomdigi) mengeluarkan peringatan tegas kepada para Penyelenggara Sistem Elektronik (PSE) terkait dugaan penyalahgunaan teknologi kecerdasan buatan Grok AI di platform X untuk pembuatan dan penyebaran konten asusila berbasis manipulasi foto pribadi.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menegaskan bahwa setiap PSE bertanggung jawab memastikan teknologi yang mereka kelola tidak digunakan sebagai sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat manusia.
“Hak atas citra diri adalah hak fundamental. Ketika foto pribadi dimanipulasi tanpa persetujuan, itu bukan hanya pelanggaran etika, tetapi pelanggaran hukum,” ujar Alexander dalam keterangannya di Jakarta, Rabu (7/1/2026).
Berdasarkan hasil pemantauan awal, Kemkomdigi menilai belum terdapat sistem pengamanan yang memadai pada Grok AI untuk mencegah produksi konten pornografi berbasis foto nyata warga Indonesia. Kondisi ini dinilai membuka celah penyalahgunaan teknologi kecerdasan buatan secara masif.
Kemkomdigi menekankan bahwa kewajiban kepatuhan terhadap regulasi nasional melekat pada seluruh PSE, tanpa terkecuali, termasuk penyedia layanan kecerdasan buatan lintas negara. Apabila ditemukan pelanggaran atau ketidakpatuhan, pemerintah tidak menutup kemungkinan menjatuhkan sanksi administratif hingga pemutusan akses layanan.
Selain pengawasan terhadap penyedia platform, Kemkomdigi juga menegaskan bahwa pengguna yang memproduksi atau menyebarluaskan konten pornografi, termasuk deepfake asusila, dapat diproses secara hukum.
Baca Juga:
Perbandingan ChatGPT dan Grok AI yang Mencolok dari Keduannya
Alexander menjelaskan, sejak berlakunya KUHP baru pada 2 Januari 2026, negara memiliki dasar hukum yang lebih kuat untuk menindak pelanggaran di ruang digital. Konten pornografi diatur dalam Pasal 172, sementara Pasal 407 mengatur ancaman pidana penjara minimal enam bulan hingga maksimal sepuluh tahun.
“Ruang digital bukan wilayah abu-abu. Siapa pun yang memanfaatkan teknologi untuk merendahkan martabat orang lain harus siap menghadapi konsekuensi hukum,” tegasnya.
Kemkomdigi juga memastikan telah menyiapkan mekanisme pelaporan dan penanganan cepat bagi korban manipulasi citra pribadi. Masyarakat didorong untuk tidak ragu melapor apabila menjadi korban penyalahgunaan teknologi kecerdasan buatan.
Di akhir pernyataannya, Alexander mengingatkan bahwa perkembangan teknologi kecerdasan buatan harus berjalan seiring dengan tanggung jawab moral dan hukum.
“Teknologi diciptakan untuk mempermudah kehidupan manusia, bukan untuk merusak kehormatan dan privasi sesama. Negara hadir untuk memastikan ruang digital tetap aman dan beradab,” pungkasnya.
(Budis)
