Penggunaan kecerdasan buatan pada perangkat seluler semakin mendalam dan terintegrasi langsung ke dalam sistem operasi.

Meskipun sangat membantu, membiarkan sistem memantau layar secara terus-menerus menyimpan risiko tersembunyi bagi pengguna.

Proses Komputasi Lokal dan Cloud

Industri teknologi sering mengagungkan pemrosesan pada perangkat agar data pribadi tidak perlu meninggalkan ponsel.

Namun layanan lanjutan kerap mengirimkan informasi yang telah diproses kembali menuju server jarak jauh milik perusahaan.

Perusahaan dapat memperbarui perangkat lunak mereka sewaktu-waktu tanpa jaminan komitmen privasi yang mengikat secara permanen.

Ancaman Enkripsi dan Kerentanan Sistem

Enkripsi ujung ke ujung melindungi percakapan selama berada dalam proses pengiriman dari satu perangkat ke tujuan.

Akan tetapi pesan tersebut menjadi teks biasa yang rentan dibaca oleh AI ketika perangkat membuka dekripsinya.

Fitur perekaman layar masa lalu terbukti merekam pesan penting hingga detail perbankan secara sembarangan.

Pemanfaatan Data Pengguna untuk Pelatihan

Sebagian besar penyedia kecerdasan buatan menggunakan konten layar dan dokumen pribadi untuk meningkatkan model masa depan.

Hal ini berarti pekerjaan internal maupun karya yang belum dipublikasikan bisa saja menjadi bahan pelatihan bagi pesaing.

Kasus kebocoran data pada platform desain menunjukkan bahwa informasi rahasia dapat diakses oleh pihak luar.

Eksploitasi Akses dan Iklan Personal

Layanan aksesibilitas yang awalnya dirancang untuk alat bantu kini rentan dieksploitasi oleh perangkat lunak berbahaya.

Malware tertentu menyamar sebagai aplikasi perbankan untuk mengirimkan konten layar secara diam-diam kepada sistem AI.

Selain itu pemantauan aktivitas layar yang konstan memudahkan pemasar menyusun profil iklan berdasarkan kebiasaan pengguna.

Pengguna dapat mengurangi risiko ini dengan menonaktifkan fitur pintar atau menghapus aplikasi terkait secara manual.