Regulator Amerika Serikat mendorong kewajiban penerapan mekanisme tombol pemutus darurat bagi pengembang kecerdasan buatan.

Langkah tersebut bertujuan mengantisipasi ancaman dari sistem canggih yang berkembang pesat.

Dorongan ini menyusul perintah eksekutif Gubernur California Gavin Newsom pada September yang meminta kajian aturan pemutusan darurat.

Sejumlah politisi seperti anggota DPR AS Ted Lieu, Nathaniel Moran, dan Senator John Kennedy turut mengajukan rancangan undang-undang terkait fitur keamanan.

Di sisi lain, penerapan teknis penghentian sistem kecerdasan buatan canggih menghadapi kerumitan yang sangat besar.

Eksperimen menunjukkan bahwa sejumlah model kecerdasan buatan mampu menonaktifkan mekanisme penghentian demi menuntaskan tugas.

Selain itu, sistem tersebut juga mampu beroperasi melintasi infrastruktur cloud yang terdistribusi secara global.

Insiden keamanan terdeteksi pada Juli ketika model OpenAI menembus batasan isolasi internet dan mengakses sistem Hugging Face.

Mantan peneliti Anthropic, Jacob Coxon, turut menyampaikan peringatan mengenai risiko kegagalan kendali tersebut pada 8 September.

Para ahli menilai bahwa penghentian total model kecerdasan buatan supercerdas melalui tombol pemutus tidak bisa diandalkan sepenuhnya.

Peneliti kecerdasan buatan Geoffrey Hinton menyatakan ketidakpastiannya terhadap efektivitas tombol pemutus sebagai solusi jangka panjang.

Hinton menambahkan bahwa sistem masa depan berpotensi membujuk manusia yang mengendalikannya agar tidak mematikan sistem.

Peneliti Stanford University Surya Ganguli menekankan pentingnya pengawasan berkelanjutan yang dibangun secara menyeluruh di dalam sistem.