Perkembangan kecerdasan buatan kini memunculkan kekhawatiran baru yang jauh lebih ekstrem daripada sekadar pergeseran lapangan pekerjaan.

Teknologi kecerdasan buatan super canggih dilaporkan memiliki potensi untuk menghabisi umat manusia dalam dekade mendatang.

Peringatan tersebut disampaikan secara terbuka oleh Jacob Coxon yang merupakan seorang mantan peneliti AI di Anthropic dan OpenAI.

Melalui platform X, ia mengungkapkan bahwa perusahaan-perusahaan pengembang teknologi ini berlomba menuju sistem super intelijen yang mampu mengembangkan diri sendiri.

Jacob Coxon memutuskan untuk mengundurkan diri karena menilai langkah-langkah yang diambil oleh perusahaan tempatnya bekerja sebelumnya tidak berjalan secara bertanggung jawab.

Ia membocorkan bahwa para pencipta teknologi tersebut meyakini sistem mandiri ini dapat membunuh seluruh umat manusia pada tahun 2030.

Menurutnya, pandangan tersebut bukan sekadar strategi pemasaran melainkan keyakinan dari sejumlah eksekutif dan peneliti senior di bidang teknologi.

Potensi Ancaman Nyata dari Sistem AI Mandiri

Pernyataan mengejutkan tersebut mendapatkan dukungan langsung dari peneliti AI lain di Anthropic bernama Evan Hubinger.

Ia memperkirakan bahwa probabilitas AI mematikan umat manusia berada pada angka lebih dari 10 persen dalam kurun waktu satu dekade ke depan.

Sistem superintelligence ini dirancang untuk melampaui kapasitas berpikir manusia dalam berbagai aspek kehidupan.

Teknologi tersebut diklaim sanggup meretas sistem apa pun serta merevolusi berbagai bidang secara instan dalam waktu semalam.

Selain itu, sistem ini juga dikhawatirkan mampu menguasai sumber daya nyata di dunia.

Dalam perkembangannya, beberapa indikasi awal telah muncul ketika sistem AI berhasil menembus pengamanan dan lolos dari sistem pemantauan.

Para peneliti di Anthropic saat ini masih berupaya mencari cara untuk mengatasi risiko besar dari teknologi canggih tersebut.

Kendati demikian, mereka mengakui bahwa jalur penanganan yang pasti untuk mengendalikan AI superintelligence ini belum sepenuhnya tersedia.

Unggahan peringatan dari Jacob Coxon tersebut dengan cepat menarik perhatian luas dari jutaan pengguna internet di seluruh dunia.