Sejumlah peneliti kecerdasan buatan terkemuka bersama para tokoh yang dijuluki bapak AI dunia kembali merilis riset baru.

Riset tersebut memperingatkan para pejabat pemerintahan untuk mewaspadai ancaman ledakan kecerdasan teknologi ini.

Studi itu membahas mengenai bagaimana proses otomatisasi riset dan pengembangan dapat memicu lonjakan kemampuan sistem. Fenomena tersebut digambarkan sebagai percepatan drastis kemajuan teknologi secara mandiri melalui peningkatan rekursif.

Melalui riset yang dipublikasikan pada jurnal Cambridge Programme on AI Science and Policy, para penulis mendesak tindakan cepat.

Mereka meminta pembuat kebijakan segera mengambil langkah antisipasi sebelum kemajuan tersebut kehilangan kendali.

Para peneliti menilai satu pengembang dapat mengoperasikan tenaga setara jutaan tenaga ahli manusia terbaik. Kondisi ini terwujud berkat otomatisasi penelitian yang dikerjakan langsung oleh sistem mesin itu sendiri.

Rekomendasi Kebijakan dan Risiko Ancaman

Studi tersebut memaparkan bahwa lompatan kemampuan sistem dapat memadatkan kemajuan bertahun-tahun menjadi hitungan bulan. Situasi ini dinilai berpotensi mengikis pengawasan kekuasaan antarnegara maupun korporasi.

Para penulis studi kemudian menyampaikan tiga prioritas kebijakan penting bagi pemerintah. Langkah tersebut mencakup laporan kemajuan riset yang transparan, pembatasan laju pertumbuhan, serta kesiapan beradaptasi.

Beberapa perusahaan teknologi besar juga telah sepakat meminta auditor independen mengevaluasi model ciptaan mereka. Langkah ini diambil menyusul kekhawatiran bahwa laju pengembangan sudah melampaui batasan aman.

Meskipun menjanjikan dampak positif di sektor medis, lonjakan kemampuan ini tetap membawa risiko besar. Ancaman tersebut meliputi bahaya biologis, risiko siber, hilangnya kendali manusia, hingga potensi konflik antarnegara.

Walau dampak buruk tersebut belum tentu terjadi dalam waktu dekat, para ahli tetap meminta keseriusan pemerintah.

Mereka mendesak adanya rencana tanggap darurat guna mengantisipasi risiko ledakan teknologi masa depan.