Jack Clark, salah satu pendiri perusahaan kecerdasan buatan Anthropic, mendesak perlunya regulasi untuk mengendalikan laju perkembangan teknologi AI.

Menurutnya, industri saat ini hanya memiliki 'pedal gas' tanpa 'pedal rem'.

Kekhawatiran ini muncul setelah chatbot Claude milik Anthropic beroperasi dengan 80 persen kode yang ditulis sendiri oleh sistem.

Clark memproyeksikan angka 100 persen dapat tercapai dalam dua tahun ke depan.

"Anda tentu menginginkan opsi untuk bisa melepaskan kaki dari pedal gas dan menginjak pedal rem.

Saat ini industri AI ibaratnya hanya memiliki pedal gas, tanpa pedal rem," kata Clark.

Ia menekankan pentingnya peran masyarakat melalui kebijakan pemerintah untuk tetap memegang kendali atas sistem AI yang semakin kuat.

"Dunia perlu merenungkan hal ini dan pada akhirnya kita harus menyusun sejumlah regulasi baru yang membuat kita merasa yakin dan aman," ujarnya.

Clark menyamakan situasi ini dengan ledakan industri minyak di masa lalu.

Respons masyarakat saat itu adalah merumuskan kebijakan dan kerangka regulasi yang masuk akal, sehingga tidak perlu lagi mengkhawatirkan karakter pemimpin perusahaan.

Di sisi lain, Anthropic menyambut baik perintah eksekutif Presiden AS Donald Trump tentang AI yang tidak mewajibkan pengujian keamanan oleh pemerintah.

Perusahaan yang didirikan lima tahun lalu ini kini bersiap melantai di bursa dengan valuasi hampir USD 1 triliun.

Clark menegaskan bahwa langkah Anthropic membahas peningkatan kapabilitas AI ke publik bukan untuk kepentingan komersial, melainkan transparansi.

Sebelumnya, Anthropic berselisih dengan Departemen Pertahanan AS terkait penggunaan AI untuk pengawasan massal dan peperangan otonom.

"Saya khawatir akan nasib anak-anak saya jika kita sebagai masyarakat tidak melakukan pembicaraan serius mengenai makna dari implikasi kemajuan AI yang terus berlanjut.

Ada potensi manfaat yang besar, namun ada pula risiko-risikonya," ungkap Clark.

Risiko nyata sudah mulai terlihat, seperti PHK massal di perusahaan teknologi besar karena AI mampu menggantikan pekerjaan engineer.

Namun, Clark menambahkan, "Masih ada pertanyaan yang belum terjawab mengenai apakah sistem AI bisa benar-benar kreatif, belum ada bukti nyata untuk itu saat ini."