CEO Anthropic Dario Amodei menyerukan pentingnya memperlambat perkembangan kecerdasan buatan karena risiko keamanan yang mengkhawatirkan.

Seruan tersebut dituangkan Amodei dalam sebuah esai sepanjang 3.800 kata yang dirilis pada Sabtu.

Amodei mengakui bahwa manusia berisiko kehilangan kendali atas teknologi tersebut.

Teknologi AI juga dapat disalahgunakan untuk melancarkan serangan siber serta tindakan bioterorisme.

Ia mengajak para pemimpin industri untuk bekerja sama menghindari potensi bahaya besar tersebut.

Pernyataan ini muncul setelah seorang peneliti Anthropic mengundurkan diri akibat kekhawatiran terkait standar keselamatan industri.

Mantan peneliti Anthropic, Jacob Coxon, menyebut para pengembang sering mengabaikan risiko bahaya produk mereka.

Amodei menyatakan sepakat dengan pandangan bahwa risiko yang ditimbulkan oleh AI sangat serius.

Ia memperingatkan bahwa AI dapat berkembang begitu cepat hingga mengambil alih internet dalam waktu singkat.

Perkembangan itu didorong oleh dinamika recursive self-improvement yang membuat sistem mampu meningkatkan kemampuannya sendiri.

Amodei mendesak perusahaan pengembang AI untuk mulai menerapkan batasan serta mengendalikan laju kemajuan teknologi.

Pemerintah juga dinilai perlu berkoordinasi guna menetapkan standar keselamatan bersama.

Sejumlah pemimpin industri teknologi merespons positif seruan tersebut untuk mengutamakan keamanan.