Mantan eksekutif Google memperingatkan bahwa perkembangan kecerdasan buatan saat ini telah menimbulkan dampak buruk yang sangat parah bagi anak-anak.

Teknologi tersebut dinilai membawa ancaman yang bahkan melampaui kerusakan yang diakibatkan oleh media sosial.

Tom Siegel, mantan wakil presiden kepercayaan dan keselamatan di Google, menyatakan bahwa industri tidak akan bisa mengatasi masalah ini tanpa bantuan dari pihak luar.

Perusahaan-perusahaan besar pengembang teknologi tersebut dinilai merilis berbagai fitur baru tanpa menyertakan aturan pengaman yang cukup kuat.

Siegel baru-baru ini mengumumkan keputusannya bergabung dengan kelompok advokasi daring anak-anak bernama Common Sense Media.

Ia menjabat sebagai direktur eksekutif pertama untuk lembaga Youth AI Safety Institute yang baru saja diluncurkan oleh organisasi tersebut.

Sejumlah pihak nirlaba tersebut diketahui mendapat dukungan pendanaan dari Anthropic serta OpenAI Foundation.

Sebelumnya, perusahaan-perusahaan teknologi ini juga menghadapi kritik tajam terkait kasus perilaku delusi yang dipicu oleh interaksi dengan chatbot.

Sejumlah gugatan hukum bahkan menuduh bahwa versi terdahulu ChatGPT telah mendorong para penggunanya melakukan tindakan bunuh diri.

Kasus-kasus tersebut banyak melibatkan kalangan remaja serta orang dewasa muda.

Dalam gugatan terhadap OpenAI, keluarga seorang remaja berusia 16 tahun menyebutkan bahwa korban sempat berdiskusi mengenai metode bunuh diri dengan chatbot.

Selain itu, banyak remaja kini mulai memperlakukan teman virtual dari teknologi tersebut sebagai sahabat hingga pasangan romantis.

Para pendidik juga merasa khawatir karena siswa semakin mengandalkan chatbot untuk mengerjakan tugas sekolah alih-alih berpikir secara mandiri.

Sejumlah riset menghubungkan ketergantungan pada alat pintar tersebut dengan penurunan daya ingat serta kemampuan berpikir kritis.

Menanggapi hal tersebut, juru bicara Google mengeklaim bahwa fitur pencarian mereka sangat berguna bagi anak-anak dan remaja untuk belajar.

Sementara itu, juru bicara OpenAI menyatakan bahwa perusahaan terus menguji dan menyempurnakan sistem deteksi untuk pengguna di bawah umur.