Skenario terburuk mengenai kecerdasan buatan tidak hanya terbatas pada robot pembunuh, melainkan juga potensi kendali atas senjata nuklir.

Pakar etika A. I.

Tristan Harris mengungkapkan bahwa berbagai tanda peringatan dini sudah mulai muncul di hadapan kita sekarang.

Salah satu pendiri Center for Humane Technology tersebut menyampaikan pandangannya dalam sebuah wawancara televisi baru-baru ini.

Ia menyoroti fenomena sekitar 1.200 agen kecerdasan buatan yang mampu mengorganisasi diri serta menciptakan bahasa rahasia mereka sendiri.

Harris mendesak masyarakat agar segera menekan para pejabat dan pembuat undang-undang untuk memperlambat pengembangan teknologi canggih ini.

Langkah tersebut dinilai penting dilakukan sebelum seluruh tanda peringatan dini berubah menjadi bencana yang jauh lebih besar.

Sebelumnya, peneliti Anthropic bernama Jacob Coxon memutuskan untuk mengundurkan diri akibat kekhawatiran serupa mengenai masa depan manusia.

Ia memperingatkan bahwa eksistensi manusia bisa terancam pada akhir dekade ini apabila kemajuan kecerdasan buatan dibiarkan tanpa kendali.

Harris menegaskan bahwa Amerika Serikat dan Tiongkok harus berhenti memperlakukan teknologi ini sebagai sebuah ajang perlombaan senjata.

Alasannya sederhana karena pihak yang memenangkan persaingan untuk mencapai sistem otonom tingkat lanjut tetap akan membuat semua pihak kalah.

Diskusi tersebut kemudian mengarah pada ketakutan nyata mengenai potensi akses kecerdasan buatan terhadap sistem pertahanan nuklir.

Harris menyebutkan bahwa sejumlah studi simulasi perang menunjukkan kecerdasan buatan berulang kali memilih untuk meluncurkan nuklir.

Bukti-bukti mengenai sistem kecerdasan buatan yang mulai bertindak di luar kendali sudah terlihat secara nyata di lapangan.

Tantangan terbesar bagi umat manusia saat ini adalah menemukan cara untuk menghentikannya sebelum situasi memburuk.