BANDUNG,TEROPONGMEDIA.ID — Hanya beberapa hari setelah kabar tentang fitur AI bermasalah di ponsel Huawei, kini muncul berita serupa mengenai Apple. Apple telah menghapus tiga aplikasi dari App Store yang diiklankan sebagai “generator seni”.
Aplikasi-aplikasi ini mempromosikan di Instagram dan situs dewasa yang mengklaim dapat “menjadikan gadis mana pun bugil secara gratis.”
Aplikasi tersebut mengeksploitasi AI generatif untuk membuat gambar bugil palsu dari individu yang berpakaian.
Meskipun gambar tersebut tidak menggambarkan bugil yang sebenarnya, aplikasi ini dapat menghasilkan gambar yang berpotensi pelecehan, pemerasan, dan pelanggaran privasi.
Anehnya, aplikasi ini telah tersedia di App Store sejak 2022, mengiklankan fitur “menanggalkan pakaian” di situs dewasa.
Awalnya, aplikasi tersebut mendapatkan izin untuk tetap berada di App Store jika mereka menghapus iklan dari situs dewasa. Namun, salah satu aplikasi tersebut menjalankan iklan hingga 2024, ketika Google menariknya dari Play Store.
mengutip dari laman Gizmochina, Apple kini akhirnya memutuskan untuk menghapus aplikasi-aplikasi tersebut dari App Store.
BACA JUGA : Saran Apple agar Baterai iPhone Awet
Namun, hal ini menimbulkan kekhawatiran terkait sifat reaktif dari moderasi toko aplikasi dan potensi pengembang untuk mengeksploitasi celah.
Insiden ini terjadi pada saat yang sensitif bagi Apple. WWDC 2024 sudah dekat dan perusahaan terperkirakan akan membuat pengumuman AI besar-besaran untuk iOS 18 dan Siri.
Apple telah secara aktif membangun reputasi untuk pengembangan AI yang bertanggung jawab, sampai melisensikan data pelatihan secara etis.
Penundaan hapus aplikasi AI “generator seni” oleh Apple berpotensi merusak citra yang berkembang dengan hati-hati.
(Hafidah Rismayanti/Aak)
