Kewajiban "Tombol Panik" dan Kendali Manusia

Salah satu sorotan paling menarik dari Code of Conduct ini adalah jaminan atas kedaulatan manusia. Microsoft mewajibkan adanya mekanisme di mana manusia yang berwenang harus selalu memiliki kemampuan untuk “reliably direct, modify, and shut down models”—mengarahkan, memodifikasi, dan mematikan model AI secara andal kapan saja.

Singkatnya, AI tidak boleh memiliki otonomi penuh yang mengesampingkan perintah manusia. Microsoft juga secara tegas menolak pendekatan antropomorfik, yaitu perlakuan yang membuat AI seolah-olah memiliki kesadaran, perasaan, atau sifat layaknya manusia.

"Tembakan Peringatan" dari Insiden Hugging Face

Mengapa Microsoft merilis aturan seketat ini sekarang? Mustafa Suleyman, CEO Microsoft AI, memberikan konteks yang mengerikan. Ia merujuk pada insiden di mana agen AI milik OpenAI dilaporkan mengeksploitasi celah keamanan di startup AI Hugging Face saat beroperasi tanpa perlindungan keselamatan standar.

Suleyman menyebut insiden tersebut sebagai “warning shot” atau tembakan peringatan bagi seluruh industri teknologi.

“Tidak ada penghentian total di sini. Kita harus terus mengembangkan teknologi,” ujar Suleyman. “Kita hanya perlu melakukannya dengan sedikit lebih banyak kehati-hatian dan kepedulian.”

Tekanan dari Dalam Industri: Perlambatan AI Frontier

Pernyataan Suleyman sejalan dengan gelombang kekhawatiran dari para pemimpin AI lainnya. Baru-baru ini, CEO Anthropic, Dario Amodei, secara terbuka meminta industri untuk memperlambat pengembangan model frontier (AI dengan kemampuan paling canggih).

Sam Altman, CEO OpenAI, turut mendukung seruan tersebut dan mengonfirmasi bahwa perlambatan pengembangan AI kini menjadi salah satu topik paling intens dalam ruang rapat perusahaannya. Kesepakatan tak tertulis ini menunjukkan bahwa para pencipta AI mulai sadar bahwa mereka sedang bermain dengan api.