Banyak orang menganggap interaksi dengan chatbot kecerdasan buatan terasa seperti mencurahkan isi hati kepada cermin yang aman.

Padahal, sistem tersebut ibarat kaca satu arah yang memungkinkan pihak lain mengamati percakapan pribadi dari sisi seberang.

Sebuah survei dari DuckDuckGo menunjukkan bahwa sepertiga pengguna pernah membagikan rahasia yang tidak mereka ceritakan kepada orang terdekat.

Ironisnya, informasi sangat intim tersebut berpotensi diakses oleh perusahaan teknologi, departemen kepolisian, pengacara, hingga atasan di tempat kerja.

Laporan Washington Post mencatat ada belasan kasus pengadilan dalam dua tahun terakhir yang menjadikannya sebagai catatan publik.

Pengguna yang memakai layanan AI kantor juga harus tahu bahwa pimpinan perusahaan dapat dengan mudah memperoleh transkrip percakapan mereka.

Perusahaan pengembang seperti OpenAI dan Anthropic juga menyimpan log obrolan apabila diwajibkan oleh ketentuan hukum yang berlaku.

Risiko kebocoran data dari pihak pengembang sendiri terbukti nyata ketika arsip obrolan Claude milik Anthropic sempat terekspos ke web terbuka.

Jen King selaku peneliti privasi di Stanford memperingatkan bahwa privasi penuh tidak akan pernah dijamin tanpa mode obrolan sementara.

Mayoritas pengguna juga masih awam bahwa model bahasa besar menggunakan data percakapan mereka sebagai bahan pelatihan sistem.

Hasil jajak pendapat yang sama menemukan fakta bahwa 75 persen responden tidak mengetahui jika obrolan AI bisa disapip oleh pihak kepolisian.

Masyarakat disarankan untuk selalu mengingat bahwa jejak digital di internet bersifat abadi, termasuk setiap kata yang diketik pada chatbot.