CEO Microsoft Satya Nadella mengungkapkan bahwa teknologi kecerdasan buatan yang semakin canggih harus disertai mekanisme pembatasan.

Ia menyebutkan perlunya rem darurat agar sistem tersebut memiliki kendali yang independen.

Fitur tersebut memungkinkan pihak berwenang untuk menghentikan sementara model AI saat menjalankan tugas.

Pendapat tersebut disampaikan melalui sebuah cuitan di akun media sosial pribadinya.

Nadella menjelaskan bahwa model dengan perilaku yang tidak selalu bisa diprediksi memerlukan desain sistem yang terstruktur.

Selain itu, kendali manusia serta prosedur operasional yang handal juga sangat dibutuhkan.

Standar industri yang lebih kuat perlu ditetapkan jika standar saat ini belum memadai.

Model AI tercanggih perlu diperlakukan seperti potensi ancaman dari orang dalam.

Sistem AI juga harus dirancang berdasarkan prinsip keterpantauan untuk memahami setiap proses.

Prinsip tersebut mencakup pencatatan aktivitas yang dapat dipahami manusia serta pengujian sistem secara berkelanjutan.

Peringatan dari Pakar dan Respons Pemerintah

Pernyataan dari bos Microsoft tersebut muncul di tengah peringatan dari sejumlah eksekutif dan peneliti teknologi terkemuka.

Tokoh-tokoh seperti Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, serta CEO SpaceX Elon Musk turut menyoroti protokol keselamatan AI yang dinilai belum memadai.

Bulan lalu, seorang peneliti AI dari Anthropic juga mengundurkan diri dan menuduh perusahaan tersebut serta OpenAI mempertaruhkan nyawa manusia melalui pengembangan teknologi ini.

Di sisi lain, Presiden Amerika Serikat Donald Trump berulang kali menepis kekhawatiran terkait risiko AI yang dapat memusnahkan umat manusia.

Trump menekankan bahwa industri kecerdasan buatan di negaranya harus tetap lebih unggul dari China.

Ia bahkan memperkenalkan gugus tugas terbaru bernama AI Force untuk mendukung perkembangan industri sekaligus menindak pihak yang menyalahgunakan teknologi.