Perusahaan juga mengklaim telah menangguhkan ratusan aplikasi serupa dan membatasi pencarian dengan kata kunci seperti nudity di Play Store.

Beberapa aplikasi yang sempat masuk dalam laporan Tech Transparency Project antara lain DreamFace, RemakeFace, AI Dress Up, dan Best Body AI.

Sebagian di antaranya kini telah dihapus atau ditangguhkan setelah mendapat sorotan.

Kasus ini menunjukkan bahwa perkembangan AI membawa tantangan baru yang serius.

Aplikasi nudify sering dipasarkan seperti aplikasi edit foto biasa, padahal dampaknya bisa sangat merusak privasi dan keselamatan korban.

Langkah San Francisco ini bisa menjadi salah satu tindakan hukum terbesar terhadap distribusi aplikasi AI yang digunakan untuk membuat deepfake intim tanpa persetujuan.

>>> Bandar Narkoba di Riau Serang Polisi dengan Pisau, Ditembak

Platform distribusi aplikasi memiliki tanggung jawab untuk memastikan teknologi AI tidak disalahgunakan demi keuntungan finansial.