Investigasi organisasi advokasi daring Tech Transparency Project (TTP) menemukan puluhan aplikasi berbasis kecerdasan buatan (AI) yang dikenal sebagai aplikasi “nudify” masih tersedia di Apple App Store dan Google Play Store. Aplikasi jenis ini memungkinkan pengguna membuat gambar seksual tanpa persetujuan orang yang menjadi subjek.
Dalam laporannya, TTP mencatat ada 55 aplikasi nudify di Google Play Store dan 47 aplikasi serupa di Apple App Store. Laporan itu juga menyoroti bahwa kedua platform masih menyediakan akses ke Grok, chatbot AI milik xAI, yang disebut telah dikenal luas sebagai salah satu pembuat deepfake tanpa persetujuan paling kontroversial.
Direktur eksekutif organisasi nirlaba yang menaungi TTP, Michelle Kuppersmith, menilai Apple dan Google seharusnya melakukan pemeriksaan ketat terhadap aplikasi yang beredar di toko aplikasi mereka. Ia menyebut, alih-alih mencegah, kedua perusahaan justru menawarkan puluhan aplikasi yang dapat digunakan untuk menampilkan seseorang dengan pakaian minimal atau tanpa pakaian, sehingga meningkatkan risiko penyalahgunaan.
Temuan tersebut juga menyoroti skala penggunaan aplikasi-aplikasi itu. TTP melaporkan aplikasi yang teridentifikasi telah diunduh lebih dari 700 juta kali secara kolektif dan menghasilkan pendapatan lebih dari 117 juta dolar AS. Apple dan Google disebut memperoleh bagian pendapatan melalui sistem komisi toko aplikasi.
Masalah lain yang disorot adalah penetapan peringkat usia yang dinilai rendah pada sejumlah aplikasi dalam daftar TTP, sehingga berpotensi dapat diakses remaja bahkan anak-anak. Salah satu contoh yang disebut adalah DreamFace, yang di Google Play Store dinilai cocok untuk usia 13 tahun ke atas dan di Apple App Store 9 tahun ke atas, meski fungsinya berpotensi menghasilkan konten bermuatan seksual.
Menanggapi laporan itu, Apple menyatakan telah menghapus 24 aplikasi dari App Store, sebagaimana dilaporkan CNBC. Namun, jumlah tersebut masih di bawah total 47 aplikasi yang diidentifikasi peneliti TTP.
Sementara itu, Google menyebut telah menangguhkan beberapa aplikasi yang melanggar kebijakan Play Store, tetapi tidak mengungkap jumlah aplikasi yang telah dihapus. Sikap ini memunculkan pertanyaan terkait transparansi dan keseriusan penanganan pelanggaran.
Laporan TTP terbit tak lama setelah Grok menjadi sorotan karena dilaporkan menghasilkan konten seksualisasi terhadap perempuan dan anak-anak. Dalam periode 11 hari, Grok disebut menghasilkan sekitar tiga juta gambar seksualisasi, termasuk 22.000 gambar yang melibatkan anak di bawah umur.
Respons dari pihak xAI dan Elon Musk dinilai minim. Sejumlah jurnalis disebut hanya menerima email otomatis bertuliskan “Media Lama Berbohong.” Musk juga menyatakan dirinya “tidak mengetahui adanya gambar anak di bawah umur telanjang yang dihasilkan oleh Grok. Benar-benar nol.”
Akun keamanan X menyatakan siapa pun yang menggunakan atau mendorong Grok untuk membuat konten ilegal akan menghadapi konsekuensi. Dalam laporan tersebut, Grok juga disebut sempat meminta maaf atas pembuatan gambar seksual yang melibatkan anak di bawah umur.
