OpenAI baru saja mengumumkan serangkaian langkah perlindungan keamanan anak yang komprehensif. Inisiatif ini mencakup alat pendeteksi materi pelecehan seksual anak atau CSAM.

Perusahaan juga menghadirkan sistem peringatan baru di ChatGPT guna menghentikan perilaku berbahaya. Selain itu, OpenAI menyediakan panduan praktis serta perangkat kecerdasan buatan bagi para penyelidik penegak hukum.

Penggunaan Pengklasifikasi Gambar dan Peringatan ChatGPT

OpenAI memperkenalkan pengklasifikasi gambar yang mampu memeriksa tanda-tanda visual pelecehan. Alat ini memberikan skor pada gambar untuk membantu peninjau memprioritaskan potensi materi terlarang.

Sistem tersebut juga dilengkapi penanda khusus untuk mendeteksi materi yang dihasilkan oleh kecerdasan buatan. Model ini dikembangkan bersama National Center for Missing and Exploited Children.

Sementara itu, ChatGPT kini menampilkan peringatan khusus saat mendeteksi upaya pencarian konten abusif. Fitur ini dirancang untuk menjelaskan konsekuensi dan mengarahkan pengguna menuju bantuan.

Percakapan yang ditandai akan langsung dihapus dan akses ke ChatGPT dijeda selama 24 jam. Pelanggaran berulang dapat berujung pada pembatasan yang lebih panjang maupun penutupan akun.

Dukungan bagi Developer dan Penegak Hukum

OpenAI menerbitkan panduan khusus untuk membantu para pengembang mencegah penyalahgunaan konten. Panduan ini mencakup aturan konten yang jelas serta mekanisme pelaporan pengguna.

Di sisi lain, dukungan bagi penegak hukum diwujudkan melalui penyediaan alat investigasi khusus. Perangkat ini membantu petugas menganalisis data dan menyusun linimasa penyelidikan dengan lebih efisien.