CEO sekaligus pendiri Anthropic, Dario Amodei, secara terbuka mengakui adanya bahaya nyata dalam perkembangan teknologi kecerdasan buatan.

Ia menilai industri teknologi selama ini terlalu lama menyembunyikan risiko tersebut dari publik.

Pernyataan ini muncul menyusul peringatan keras dari Jacob Coxon, mantan peneliti Anthropic yang baru saja mengundurkan diri.

Coxon menyebutkan bahwa Anthropic bersama OpenAI sedang mempertaruhkan nyawa manusia lewat proyek AI superintelligence.

Teknologi tersebut dirancang agar mampu mengembangkan kemampuannya sendiri tanpa bantuan campur tangan manusia.

Gambaran ini dinilai mirip dengan kisah fiksi ilmiah di mana AI menjadi cukup pintar untuk membunuh umat manusia.

Seruan Perlambatan Laju Pengembangan AI

Amodei mengakui laju perkembangan teknologi ini berjalan semakin curam dari waktu ke waktu.

Ia lantas menyerukan para pelaku industri untuk bekerja sama memperlambat kecepatan kemampuan kecerdasan buatan.

Namun, langkah perlambatan ini bukan berarti Anthropic akan berhenti merilis model sistem yang lebih canggih.

Setiap generasi model terbaru dipastikan harus melalui proses pengujian yang benar sebelum resmi diluncurkan.

Pihak perusahaan juga berencana memberikan akses permanen kepada evaluator independen demi menguji keamanan sistem.

Peringatan ini turut dikonfirmasi oleh peneliti AI Anthropic lainnya bernama Evan Hubinger.

Ia memperkirakan potensi AI menghabisi seluruh umat manusia dalam satu dekade ke depan berada di angka lebih dari 10 persen.