Sejumlah karyawan dan mantan staf Anthropic memberikan peringatan keras mengenai masa depan umat manusia di tengah perkembangan teknologi yang makin pesat.

Mereka meyakini bahwa kecerdasan buatan atau AI berpotensi menyebabkan kepunahan manusia dalam waktu dekat.

Pernyataan tersebut dilontarkan oleh Jacob Coxon yang merupakan mantan peneliti Anthropic dan OpenAI.

Melalui sebuah unggahan di platform X, ia mengaku memilih mundur karena merasa perusahaan teknologi tersebut sedang mempertaruhkan nyawa manusia.

Ia mengungkap bahwa para pengembang AI sebenarnya sangat meyakini bahwa teknologi canggih ini dapat memusnahkan umat manusia sebelum akhir dekade ini.

Dalam pesannya, ia mengingatkan agar tidak meremehkan kekuatan teknologi yang akan segera melampaui kemampuan manusia.

Sistem tersebut dinilai akan sanggup meretas berbagai hal dan menguasai sumber daya yang nyata.

Unggahan tersebut mendadak viral di platform X dan telah dilihat ratusan juta kali.

Cuitan itu juga kembali memicu perdebatan panjang di kalangan Silicon Valley mengenai sejauh mana sistem cerdas dapat dikendalikan dengan aman.

Banyak peneliti mendesak agar laju riset dan pengembangan teknologi ini diperlambat demi keamanan.

Pernyataan tersebut turut mendapat tanggapan kuat dari para peneliti industri yang mengkhawatirkan munculnya recursive self-improvement.

Kondisi itu merujuk pada situasi ketika sistem AI mampu merancang generasi penerusnya sendiri tanpa campur tangan manusia.

Sejumlah perusahaan memperingatkan bahwa skenario tersebut dapat membuat manusia kehilangan kendali sepenuhnya.

Evan Hubinger selaku pimpinan tim penyelarasan di Anthropic turut menguatkan pernyataan tersebut.

Ia menilai bahwa AI mempunyai peluang sebesar sepuluh persen lebih untuk memusnahkan umat manusia.

Kekhawatiran tentang potensi bencana skala besar akibat AI ini bukanlah hal yang baru di kalangan peneliti.

Pada tahun 2023, sejumlah eksekutif terkemuka telah menandatangani pernyataan bersama untuk menekan risiko tersebut.

Mereka menegaskan bahwa ancaman dari AI harus menjadi prioritas global yang setara dengan pandemi serta perang nuklir.

Di kalangan akademisi, muncul pula istilah p(doom) sebagai tolok ukur untuk mengestimasi besarnya peluang skenario terburuk.