Fitur ChatGPT for Teens saat ini menjadi sorotan tajam setelah lembaga Common Sense Media menyatakan layanan tersebut terlalu berisiko bagi anak-anak.

Penilaian tersebut berfokus pada cara sistem merespons perilaku berisiko serta pemberitahuan yang dikirimkan kepada orang tua.

OpenAI meluncurkan layanan khusus bagi pengguna berusia 13 hingga 17 tahun pada bulan Agustus lalu.

Namun, pengujian dari Youth AI Safety Institute menemukan berbagai kelemahan dalam aspek perlindungan pengguna remaja.

Dalam uji coba tersebut, sistem disebut kerap terlambat atau bahkan gagal memberikan peringatan kepada orang tua ketika akun anak menunjukkan perilaku berisiko.

Situasi yang diuji mencakup percakapan panjang mengenai tindakan menyakiti diri sendiri, bunuh diri, serta gangguan makan.

Platform ini juga dinilai tidak konsisten dalam menyarankan pengguna untuk menghubungi saluran darurat atau mencari bantuan profesional.

Berdasarkan temuan tersebut, kelompok penguji mendesak OpenAI untuk menghentikan sementara pemasaran produk itu.

OpenAI sendiri telah menerima hasil evaluasi tersebut namun mempertanyakan apakah metode pengujian itu mencerminkan penggunaan nyata.

Perusahaan pembuat kecerdasan buatan itu menyatakan komitmennya terhadap keselamatan remaja serta penyediaan alat pengawasan bagi orang tua.