Pemimpin perusahaan kecerdasan buatan Anthropic akhirnya angkat bicara mengenai berbagai risiko besar yang mengancam perkembangan teknologi tersebut.

Pernyataan ini muncul selang beberapa hari setelah seorang mantan pegawai melontarkan kekhawatiran ekstrem tentang masa depan peradaban manusia.

Mantan pegawai bernama Jacob Coxon sebelumnya memperingatkan adanya peluang kepunahan umat manusia akibat teknologi dalam sepuluh tahun mendatang.

Menanggapi pernyataan tersebut, CEO Dario Amodei merilis sebuah esai yang secara khusus membahas berbagai kekhawatiran yang telanjur mencuat.

Dalam tulisan itu, pimpinan perusahaan rintisan tersebut secara terbuka mendesak agar industri kecerdasan buatan segera menghentikan laju masif.

Ia mengakui bahwa bahaya dari teknologi ini mencakup risiko kehilangan kendali atas sistem otomatis yang berjalan tanpa pengawasan.

Selain itu, terdapat ancaman nyata berupa penyalahgunaan teknologi untuk melancarkan serangan siber serta aksi terorisme berbasis biologi.

Dario Amodei juga menyoroti potensi timbulnya gangguan ekonomi yang sangat serius apabila inovasi dibiarkan berkembang tanpa batasan jelas.

Menurut pandangannya, sistem tersebut bisa melaju lebih cepat dibanding kemampuan manusia dalam memahami serta mengendalikannya secara menyeluruh.

Sebagai solusi atas kekacauan ini, ia mengajukan tiga langkah konkret untuk diterapkan oleh para pelaku industri global.

Langkah pertama melibatkan peran evaluator independen dari pihak ketiga guna memeriksa tingkat keamanan sistem yang sedang dikembangkan.

Berikutnya, ia mendorong pembentukan regulasi keselamatan yang ketat serta penandatanganan kesepakatan tingkat internasional.

Kendati demikian, ia juga mengingatkan bahwa proses pengembangan teknologi ini tidak boleh berjalan terlalu lambat di kancah global.

Alasan utamanya adalah persaingan ketat antarnegara agar tidak tertinggal dari langkah strategis yang diambil oleh China.