Perusahaan kecerdasan buatan Anthropic mengeluarkan usulan mengejutkan terkait perkembangan teknologi AI generatif.

Melalui situs resminya, pembuat model AI Claude itu mengusulkan jeda atau perlambatan sementara dalam pengembangan sistem AI paling canggih di dunia.

>>> Komdigi Utamakan Perpres Peta Jalan AI, Tunda Pembahasan UU

Usulan tersebut muncul setelah Anthropic menilai model-model AI generasi terbaru mulai menunjukkan kemampuan yang berpotensi melampaui kapasitas pengawasan manusia.

Perusahaan berbasis di San Francisco, Amerika Serikat, itu menyebut dunia perlu memiliki opsi untuk memperlambat pengembangan AI frontier agar riset keamanan, regulasi, dan kesiapan sosial dapat mengejar laju inovasi.

Namun Anthropic menegaskan bahwa penghentian sementara tidak akan efektif jika hanya dilakukan oleh satu perusahaan.

Langkah tersebut harus melibatkan perusahaan AI besar di berbagai negara secara bersamaan, terutama Amerika Serikat dan China yang saat ini menjadi dua kekuatan utama dalam perlombaan AI global.

Anthropic Soroti Risiko AI yang Berkembang Terlalu Cepat

Anthropic menilai industri AI saat ini berada dalam posisi yang unik.

Perusahaan-perusahaan teknologi berlomba menghadirkan model yang semakin kuat, sementara regulasi dan mekanisme pengawasan masih terus berkembang.

Tanpa koordinasi internasional, pemerintah maupun perusahaan akan menghadapi tekanan kompetitif dan geopolitik yang dapat membuat aspek keselamatan menjadi prioritas kedua.

Perdebatan mengenai keamanan AI semakin mengemuka dalam beberapa bulan terakhir, terutama setelah munculnya model-model AI dengan kemampuan penalaran, pemrograman, hingga analisis keamanan siber yang semakin maju.

Anthropic sebelumnya juga menjadi sorotan karena memiliki model AI bernama Mythos yang belum dirilis untuk publik luas.

Model tersebut disebut memiliki kemampuan siber yang cukup kuat sehingga penggunaannya masih dibatasi untuk organisasi tertentu yang telah melalui proses verifikasi.