Apple dan Google Hapus Aplikasi AI Pembuat Foto Telanjang Palsu dari App Store dan Play Store

Suara Kalbar – Apple dan Google mulai menghapus sejumlah aplikasi berbasis kecerdasan buatan (artificial intelligence/AI) yang dapat digunakan untuk membuat foto telanjang palsu atau nudify tanpa persetujuan korban dari App Store dan Play Store. Langkah tersebut diambil setelah kedua perusahaan mendapat tekanan hukum dari otoritas Kota San Francisco, Amerika Serikat.

Penghapusan aplikasi ini menjadi bagian dari upaya memperketat pengawasan terhadap penyalahgunaan teknologi AI generatif yang dinilai berpotensi melanggar privasi dan merugikan masyarakat.

Kasus tersebut bermula ketika Jaksa Kota San Francisco, David Chiu, mengirimkan surat peringatan kepada Apple dan Google. Dalam surat itu, keduanya dinilai memfasilitasi distribusi aplikasi yang mampu menghasilkan gambar telanjang palsu menggunakan AI tanpa persetujuan orang yang menjadi objek foto.

Pemerintah California juga menyoroti keuntungan yang diperoleh kedua perusahaan melalui sistem pembelian dalam aplikasi (in-app purchases), sehingga meminta Apple dan Google memutus hubungan dengan pengembang aplikasi yang melanggar aturan.

Menanggapi hal tersebut, Apple menyatakan telah menghapus tiga aplikasi yang menjadi sorotan sekaligus menutup akun para pengembangnya. Selain itu, empat pengembang lainnya telah diberi peringatan agar segera memperbaiki pelanggaran kebijakan atau menghadapi penghapusan permanen dari App Store.

Apple menegaskan bahwa aplikasi yang dirancang untuk menghasilkan maupun menyebarkan konten pornografi, termasuk fitur nudification, sejak awal telah dilarang dalam pedoman App Store.

“App Store dirancang sebagai tempat yang aman dan tepercaya bagi pengguna. Aplikasi ‘nudification’ melanggar pedoman kami, dan kami secara proaktif menolak maupun menghapus aplikasi semacam itu,” kata Apple dalam pernyataannya, dikutip dari Digital Trends, Minggu (19/7/2026).

Perusahaan juga menegaskan bahwa setiap pengembang bertanggung jawab atas konten yang dihasilkan aplikasinya. Karena itu, aplikasi yang memungkinkan pengguna membuat konten sendiri wajib memiliki sistem penyaringan untuk mencegah penyalahgunaan dan pelanggaran aturan.

Di sisi lain, Google menyampaikan telah menangguhkan ratusan aplikasi Android yang memiliki fitur serupa. Perusahaan juga membatasi pencarian di Play Store untuk kata kunci seperti nudify serta menghapus lima aplikasi yang disebut dalam gugatan otoritas San Francisco karena dinilai melanggar kebijakan platform.

Meski demikian, sejumlah pengamat menilai langkah tersebut belum sepenuhnya menyelesaikan persoalan. Kritik muncul karena aplikasi-aplikasi tersebut sebelumnya sempat lolos proses peninjauan dan tersedia di dua toko aplikasi terbesar di dunia.

Perkembangan teknologi AI generatif dalam beberapa tahun terakhir memang membuat pembuatan foto maupun video deepfake eksplisit menjadi semakin mudah. Hanya dengan bermodal satu foto seseorang, pengguna dapat menghasilkan gambar telanjang palsu dalam hitungan detik tanpa izin dari korban.

Fenomena ini memicu kekhawatiran terkait penyalahgunaan AI untuk pemerasan, pelecehan digital, pencemaran nama baik, hingga penyebaran konten nonkonsensual yang merugikan korban. Karena itu, berbagai negara mulai memperketat pengawasan terhadap aplikasi berbasis AI yang berpotensi disalahgunakan.

Langkah Apple dan Google menghapus aplikasi nudify dinilai menjadi sinyal bahwa platform digital kini semakin serius menindak aplikasi AI yang melanggar privasi pengguna. Ke depan, kedua perusahaan diperkirakan akan memperketat proses peninjauan aplikasi agar teknologi AI digunakan secara bertanggung jawab dan tidak dimanfaatkan untuk aktivitas yang melanggar hukum.

Sumber: Beritasatu.com