OpenAI menyatakan bahwa pengguna remaja dapat berdiskusi tentang topik sensitif seperti bunuh diri dengan ChatGPT selama berjam-jam sebelum sistem memberi tahu orang tua.

Temuan tersebut terungkap dalam laporan investigasi yang dirilis oleh Youth AI Safety Institute dari Common Sense Media pada hari Rabu.

Evaluasi Mode Khusus Remaja

Laporan tersebut menilai mode ChatGPT untuk remaja yang dilengkapi kontrol orang tua dan pembatas ketat justru menghadirkan risiko yang tidak dapat diterima.

Para peneliti yang menyamar sebagai remaja menemukan bahwa notifikasi orang tua hanya terpicu dua kali dari 450 prompt yang diuji.

Robbie Torney selaku direktur senior program kecerdasan buatan di Common Sense Media menjelaskan bahwa percakapan tentang isu berbahaya dapat berlangsung lama tanpa ada peringatan.

Menanggapi hal tersebut, OpenAI mengakui bahwa sistem mereka memerlukan waktu beberapa jam untuk aktif sepenuhnya pada akun yang baru ditautkan.

Perusahaan menjelaskan bahwa jeda waktu tersebut terjadi karena adanya proses verifikasi identitas untuk memastikan proses penautan akun berjalan aman.

OpenAI juga menyebutkan bahwa metodologi pengujian dari Common Sense Media memiliki cacat karena sebagian besar pengujian dilakukan saat kontrol orang tua belum sepenuhnya diluncurkan.

Pihak Common Sense Media membantah klaim tersebut dengan menyatakan bahwa mereka telah memastikan fitur itu telah diluncurkan secara penuh sebelum pengujian dimulai.