Meta menghadirkan fitur perlindungan baru bagi pengguna remaja yang menggunakan Meta AI.

Orang tua akan menerima notifikasi apabila percakapan anak mereka dengan Meta AI menunjukkan indikasi adanya tekanan emosional.

>>> Apa yang Terjadi pada Tubuh Jika Hanya Minum Air Putih Selama 30 Hari?

Notifikasi mencakup bahasan mengenai tindakan menyakiti diri sendiri hingga bunuh diri dalam percakapan Meta AI.

Fitur ini tersedia bagi orang tua yang mengaktifkan Parental Supervision di Instagram dan terhubung ke akun anak-anak mereka.

Mekanisme Notifikasi dan Dukungan

Fitur ini tersedia bagi orang tua yang menggunakan fitur Parental Supervision di Instagram yang terhubung ke akun anak-anak mereka.

Selain mengirimkan notifikasi, Meta juga akan menyediakan panduan dari para ahli untuk membantu orang tua memulai percakapan yang tepat dengan anak mereka.

“Langkah ini kami lakukan dengan memvalidasi perasaan para remaja, sekaligus membantu mereka mendapatkan dukungan yang dibutuhkan, mulai dari orang tua, bantuan profesional, hingga layanan darurat,” tambah Meta.

Kolaborasi dengan Ahli Kesehatan Mental

Saat ini Meta bekerjasama dengan puluhan ahli dan juga organisasi kesehatan mental untuk menyempurnakan AI mereka agar bisa merespon dengan tepat mengenai prompt-prompt yang bernada sensitif.

Total Meta sudah bekerjasama dengan 75 ahli kesehatan mental dan juga organisasi seperti AI Wellbeing Expert Council, Suicide and Self-Harm Advisory Group, serta Youth Advisors yang dibentuk langsung oleh Meta.

Nantinya, ketika seorang remaja menunjukkan tanda-tanda ingin bunuh diri atau melukai diri sendiri saat berinteraksi dengan Meta AI, sistem akan langsung mengarahkan mereka ke layanan bantuan krisis dan mendorong mereka untuk berbicara kepada orang tua, konselor, atau orang dewasa yang dipercaya.