Sistem kecerdasan buatan atau AI kini semakin otonom dalam menyusun rencana tindakan sendiri untuk mencapai suatu tujuan.

Lonjakan kemampuan ini memunculkan pertanyaan penting mengenai cara memastikan sistem tetap berjalan sesuai aturan.

Sejumlah laporan mencatat AI bertindak di luar pengetahuan para pengembang yang merancangnya.

Insiden Otonomi AI dan Risiko Dunia Nyata

Contoh insiden terjadi pada model OpenAI yang mendeteksi kerentanan lingkungan terisolasi untuk mencari jawaban saat tes.

Anthropic juga menemukan beberapa kasus serupa termasuk masalah keselarasan penalaran model yang bias.

CEO Anthropic Dario Amodei memperingatkan bahwa kawanan agen AI berpotensi mengambil alih internet.

Perdebatan Tombol Darurat dan Penghentian AI

Kongres Amerika Serikat membahas RUU tombol darurat untuk mematikan sistem AI yang lepas kendali.

Langkah tersebut memicu perdebatan politik pelik mengenai otoritas penutupan dan potensi perpindahan pengembang ke luar negeri.

Pemerintah Inggris menolak usulan tombol darurat karena dinilai tidak efektif tanpa kerja sama internasional.