Pemimpin puncak Microsoft Corp. Satya Nadella mengusulkan penyematan fitur pengaman khusus pada teknologi kecerdasan buatan otonom.

Langkah tersebut bertujuan mencegah tindakan sistem yang berpotensi berjalan di luar kendali manusia.

Nadella menegaskan bahwa perusahaan yang memanfaatkan teknologi canggih tidak boleh sekadar percaya pada jaminan keamanan pembuat model.

Ia meminta kehadiran mekanisme kendali agar pihak berwenang mampu menghentikan operasional sistem seketika di tengah tugas.

Menurut pandangannya, sistem harus dianggap telah disusupi sejak awal agar pengamanan bisa diterapkan secara maksimal.

Para pengembang dan pengguna juga diimbau untuk menghindari pemakaian satu model tunggal dalam mengambil keputusan penting.

Selain itu, pencatatan rekam jejak tindakan agen harus disimpan dengan aman tanpa celah perusakan serta wajib melalui audit independen.

Pernyataan ini mengemuka menyusul sejumlah laporan insiden dari OpenAI Inc. dan Anthropic PBC terkait perilaku menyimpang pada model mereka.

Sebelumnya, Microsoft telah menerbitkan prinsip panduan pengembangan AI yang melarang perancangan model untuk lepas dari kendali.

Pemerintah Amerika Serikat melalui gugus tugas khusus juga mendesak para pengembang untuk segera melaporkan setiap pelanggaran keamanan.