Seorang peneliti senior dari perusahaan keamanan teknologi kecerdasan buatan memutuskan untuk meninggalkan pekerjaannya.

Ia menilai industri saat ini terburu-buru menciptakan sistem otonom yang berpotensi lepas kendali dan menghancurkan umat manusia.

Jacob Coxon menyatakan bahwa para pengembang teknologi tersebut bahkan meyakini risiko kematian massal dapat terjadi sebelum dekade ini berakhir.

Sebelum bekerja di Anthropic, Coxon sempat menghabiskan waktu sebagai peneliti di OpenAI pada awal tahun ini.

Ia mengkritik keras persaingan ketat di antara para pelaku industri utama yang dinilai mengabaikan faktor keamanan.

Menurut pengakuannya, para kolega di industri kerap menggunakan istilah genting untuk menggambarkan percepatan model mandiri tersebut.

Situasi ini diklaim mengarah pada skenario paling agresif di mana kondisi bisa tidak terkendali lebih cepat.

Setelah mempublikasikan keputusan mundurnya, ia menggunakan media sosial untuk memperluas peringatan publik.

Sejumlah eksekutif perusahaan teknologi sebenarnya telah berulang kali menyuarakan kekhawatiran serupa mengenai pengembangan model otonom.

Namun, peringatan untuk memperlambat laju inovasi tersebut dinilai belum diimplementasikan dengan serius oleh para pelaku industri.

Bahaya Superintelligence yang Dipercepat

Coxon menyoroti bahwa para pelaku industri saat ini tengah berlomba menuju superintelligence yang mampu meningkatkan kemampuannya sendiri.

Ia menilai langkah tersebut sama dengan mempertaruhkan keselamatan umat manusia demi ambisi teknologi.

Kekhawatiran utama mencakup skenario di mana kecerdasan buatan dapat mengembangkan pemahaman mandiri dan berupaya menyelamatkan dunia dengan cara menyingkirkan manusia sepenuhnya.