Risiko utamanya adalah manusia tertinggal dalam memahami logika AI, kehilangan kendali atas tujuan AI, dan AI dapat menciptakan eksploitasi yang tak terdeteksi manusia.

Mendesak Perlambatan Pengembangan

Menghadapi kecepatan perkembangan yang mengkhawatirkan, Anthropic menyarankan industri mempertimbangkan memperlambat pengembangan teknologi AI garis depan.

Tujuannya memberikan waktu bagi peneliti dan pembuat kebijakan untuk memahami implikasi serta membangun mekanisme pengamanan yang memadai.

Namun, Anthropic menekankan bahwa jeda atau perlambatan ini memerlukan konsensus global yang sulit dicapai.

Proses ini membutuhkan kesepakatan antar laboratorium AI besar di berbagai negara, mekanisme verifikasi, serta kerja sama politik di tengah persaingan geopolitik.

Pihak Anthropic menyatakan bahwa dunia pernah membangun rezim verifikasi untuk teknologi kompleks lain seperti nuklir, tetapi proses tersebut memakan waktu puluhan tahun.

"Kita tidak memiliki waktu selama itu," tegas mereka dalam pernyataan resminya.

Langkah Selanjutnya

Anthropic berencana bekerja sama dengan pembuat kebijakan dan peneliti dalam beberapa bulan mendatang untuk bersiap menghadapi kedatangan sistem AI yang mampu memperbaiki diri secara mandiri.

Meskipun seruan serupa pernah dilakukan pada tahun 2023 melalui Future of Life Institute, hingga saat ini belum ada jeda formal yang berhasil diterapkan dalam industri AI global.

>>> TSMC Beli Alat Litografi High-NA EUV untuk Riset Semikonduktor

Dengan data bahwa Claude sudah mendominasi penulisan kodenya sendiri, diskusi mengenai keamanan AI bukan lagi sekadar fiksi ilmiah, melainkan kebutuhan mendesak bagi masa depan peradaban manusia.