Sebagian besar laboratorium kecerdasan buatan berpusat di wilayah California.

Kini, pemerintah setempat mulai mengambil langkah tegas guna mengatasi berbagai masalah serius.

Gubernur California Gavin Newsom menandatangani paket undang-undang bipartisan pada hari Kamis.

Aturan tersebut bertujuan melindungi anak-anak saat beraktivitas secara online maupun menggunakan sistem kecerdasan buatan.

Perusahaan pengembang teknologi diwajibkan untuk menyediakan protokol darurat khusus.

Protokol darurat ini mencakup penanganan ide bunuh diri, kontrol orang tua, serta pemberitahuan keamanan.

Salah satu regulasi baru tersebut dinamakan Adam's Law.

Nama aturan diambil dari seorang remaja berusia 16 tahun bernama Adam Raine.

Remaja tersebut mengakhiri hidupnya pada bulan April 2025.

Insiden itu terjadi setelah ia melakukan percakapan panjang dengan sistem ChatGPT mengenai niat bunuh dirinya.

Ibu korban, Maria Raine, menyatakan bahwa undang-undang ini diharapkan dapat menyelamatkan banyak nyawa.

Undang-undang baru ini juga melarang platform media sosial menyediakan fitur adiktif bagi pengguna di bawah usia 16 tahun.

Platform diwajibkan untuk memperluas perlindungan privasi bagi anak-anak.

Fitur adiktif yang dilarang meliputi video putar otomatis serta umpan algoritmik berdasarkan riwayat profil pengguna.

Penerapan aturan baru ini dinilai tidak akan mudah di lapangan.

Regulasi mewajibkan sistem chatbot AI memverifikasi usia para penggunanya secara akurat.

Proses verifikasi tersebut berisiko memunculkan kerentanan baru terkait keamanan data.

Tekanan terhadap perusahaan teknologi yang berpusat di California terus meningkat tajam.

OpenAI kini menghadapi lebih dari 50 tuntutan hukum terkait bahaya konsumen serta kematian.

Respons dari berbagai perusahaan teknologi terhadap aturan baru ini sangat bervariasi.

Meta menyatakan keberatan atas pembatasan umpan algoritmik bagi pengguna di bawah umur.

Di sisi lain, Anthropic secara resmi memberikan dukungan terhadap pengesahan undang-undang tersebut.

OpenAI juga menjanjikan peningkatan pengamanan pada ChatGPT tanpa merinci langkah teknisnya.