Jack Clark, salah satu pendiri perusahaan kecerdasan buatan Anthropic, mendesak perlunya regulasi untuk mengendalikan laju perkembangan teknologi AI.

Menurutnya, industri saat ini hanya memiliki 'pedal gas' tanpa 'pedal rem'.

>>> Mayora Indah Targetkan Laba Bersih Naik 17,3% Jadi Rp 3,41 Triliun pada 2026

Kekhawatiran ini muncul setelah chatbot Claude milik Anthropic beroperasi dengan 80 persen kode yang ditulis sendiri oleh sistem.

Clark memproyeksikan angka 100 persen dapat tercapai dalam dua tahun ke depan.

"Anda tentu menginginkan opsi untuk bisa melepaskan kaki dari pedal gas dan menginjak pedal rem.

Saat ini industri AI ibaratnya hanya memiliki pedal gas, tanpa pedal rem," kata Clark.

Ia menekankan pentingnya peran masyarakat melalui kebijakan pemerintah untuk tetap memegang kendali atas sistem AI yang semakin kuat.

"Dunia perlu merenungkan hal ini dan pada akhirnya kita harus menyusun sejumlah regulasi baru yang membuat kita merasa yakin dan aman," ujarnya.

Clark menyamakan situasi ini dengan ledakan industri minyak di masa lalu.

Respons masyarakat saat itu adalah merumuskan kebijakan dan kerangka regulasi yang masuk akal, sehingga tidak perlu lagi mengkhawatirkan karakter pemimpin perusahaan.

>>> Shakira Tampil di Pembukaan Piala Dunia 2026 di Meksiko

Di sisi lain, Anthropic menyambut baik perintah eksekutif Presiden AS Donald Trump tentang AI yang tidak mewajibkan pengujian keamanan oleh pemerintah.

Perusahaan yang didirikan lima tahun lalu ini kini bersiap melantai di bursa dengan valuasi hampir USD 1 triliun.

Clark menegaskan bahwa langkah Anthropic membahas peningkatan kapabilitas AI ke publik bukan untuk kepentingan komersial, melainkan transparansi.

Sebelumnya, Anthropic berselisih dengan Departemen Pertahanan AS terkait penggunaan AI untuk pengawasan massal dan peperangan otonom.

"Saya khawatir akan nasib anak-anak saya jika kita sebagai masyarakat tidak melakukan pembicaraan serius mengenai makna dari implikasi kemajuan AI yang terus berlanjut.

Ada potensi manfaat yang besar, namun ada pula risiko-risikonya," ungkap Clark.

Risiko nyata sudah mulai terlihat, seperti PHK massal di perusahaan teknologi besar karena AI mampu menggantikan pekerjaan engineer.

>>> Manipulasi Psikologis Dominasi Lonjakan Kejahatan Siber di Indonesia

Namun, Clark menambahkan, "Masih ada pertanyaan yang belum terjawab mengenai apakah sistem AI bisa benar-benar kreatif, belum ada bukti nyata untuk itu saat ini."