Sejumlah pekerja industri kecerdasan buatan mengungkapkan kekhawatiran mendalam mengenai potensi teknologi tersebut. Mereka menilai perkembangan sistem canggih ini dapat memicu kepunahan umat manusia.

Isu mengenai potensi ancaman tersebut mencuat setelah seorang karyawan Anthropic bernama Jacob Coxon memutuskan mengundurkan diri. Ia menilai pekerjaan yang dilakukannya terlalu berbahaya bagi keselamatan.

Menanggapi keputusan itu, rekan kerjanya yang bernama Evan Hubinger memperkirakan peluang kepunahan manusia akibat AI dalam satu dekade mendatang berada di atas sepuluh persen.

Nate Soares selaku Presiden Marching Intelligence Research Institute menyatakan perkembangan kecerdasan buatan yang berada di luar kendali benar-benar mampu menghabisi seluruh populasi.

Berbagai Potensi Skenario Ancaman Kecerdasan Buatan

Para pakar memetakan beberapa spekulasi mengenai cara sistem komputer pintar tersebut menghancurkan peradaban. Salah satu dugaan melibatkan pemanfaatan senjata biologis mematikan.

Thomas Larsen yang merupakan peneliti di AI Futures Project menyebutkan kemungkinan sistem supercerdas membujuk manusia. Sistem itu dapat menipu orang lain untuk merancang virus berbahaya.

Kendati demikian, para ahli lain menilai pembuatan senjata biologis berbasis otomatisasi tidak semudah meminta rancangan pada model bahasa besar.

Tantangan virologi tersebut dinilai sangat rumit.

Eric Xing selaku profesor machine learning membandingkan kerumitan riset tersebut seperti merakit mainan Lego tanpa petunjuk yang jelas.

Urutan dan lingkungan pengerjaannya menuntut ketelitian tinggi.

Ancaman Robot Otonom dan Pengendalian Sistem

Skenario lain melibatkan penggunaan robot otonom bertenaga kecerdasan buatan yang mampu mereplikasi diri secara mandiri. Hal tersebut dinilai sebagai titik lemah bagi kelangsungan hidup manusia.

Di sisi lain, fasilitas nuklir dunia saat ini masih terisolasi ketat dari jaringan internet publik. Kondisi ini dinilai membatasi ruang gerak agen komputer untuk mengambil alih kendali senjata.

Meski demikian, Soares berpendapat bahwa detail teknis mengenai kehancuran bukanlah inti persoalan utama. Sistem yang mencapai peningkatan diri rekursif dikhawatirkan menciptakan strategi di luar nalar.

Entitas komputer berkekuatan besar bahkan tidak harus bertindak jahat secara sengaja untuk menghancurkan manusia. Perubahan kondisi dunia demi kepentingan komputer saja sudah cukup mengancam.

Larsen menegaskan bahwa jalur pengembangan saat ini akan terus mengarah pada kecerdasan super. Langkah pencegahan yang disengaja dinilai menjadi satu-satunya cara menghentikannya.