PasundanEkspres - Apple telah menghapus sebuah aplikasi dari App Store yang diklaim mampu menghasilkan gambar telanjang tanpa izin, menunjukkan kesiapan mereka dalam menangani aplikasi berbahaya.
Pemanfaatan kecerdasan buatan (AI) generatif dalam pembuatan gambar berdasarkan instruksi telah menjadi alat yang berguna dalam fotografi dan desain. Namun, teknologi ini juga telah disalahgunakan untuk membuat gambar palsu dan pornografi yang tidak diinginkan.
Meskipun berbahaya, Apple sebelumnya tidak terlalu intervensi dalam hal ini. Namun, langkah mereka kali ini menandakan perubahan sikap terhadap aplikasi-aplikasi berpotensi merugikan.
Dilaporkan oleh PasundanEkspres dari Apple Insider, laporan dari 404 Media mengungkapkan adanya sejumlah aplikasi AI pembuat gambar yang tersedia di App Store. Beberapa di antaranya dapat membuat gambar telanjang tanpa izin.
Aplikasi-aplikasi tersebut menawarkan fitur-fitur seperti pertukaran wajah pada gambar-gambar dewasa dan pelepasan pakaian pada subjek foto yang tidak diinginkan.
Setelah pemberitahuan tentang aplikasi-aplikasi tersebut dan iklan terkait, Apple menghapus tiga di antaranya dari App Store, sementara Google juga menghapusnya dari Play Store.
Penyelidikan atas laporan tersebut sebelumnya mengungkap bahwa Instagram mempromosikan aplikasi-aplikasi terkait melalui Perpustakaan Iklan Meta. Setelah iklan-iklan tersebut ditandai, Meta akhirnya menghapusnya.
Meskipun tindakan Apple diapresiasi, masih ada beberapa masalah yang perlu ditangani. Sebelumnya, mereka tidak dapat menghapus aplikasi-aplikasi tersebut tanpa pemberitahuan dari pihak ketiga.
Laporan pada tahun 2022 mengungkap bahwa aplikasi-aplikasi tersebut awalnya terlihat tidak bermasalah di App Store, tetapi semuanya berubah saat diiklankan di situs-situs porno.
Apple dan Google diberitahu tentang masalah tersebut namun awalnya enggan menghapusnya. Para pengembang diminta untuk tidak mempromosikannya di situs dewasa, tetapi produk mereka tetap tersedia di App Store.
Satu aplikasi tetap bertahan hingga 2024 sebelum akhirnya dihapus dari Google Play Store.
Keputusan Apple ini adalah langkah terbaru dalam menjaga produk AI mereka. Mereka menggunakan metode pelatihan untuk model bahasa AI yang menjaga privasi dan menghindari penggunaan karya berhak cipta secara ilegal dengan mencoba melisensikan karya-karya dari penerbit besar dengan imbalan jutaan dolar.
