Geoffrey Hinton menyampaikan peringatan serius mengenai potensi serangan siber berbahaya yang melibatkan teknologi kecerdasan buatan.

Ia mendesak agar umat manusia segera membangun sistem yang benar-benar berpihak pada kepentingan publik.

Perdebatan Mengenai Kesadaran Mesin

Ilmuwan peraih Hadiah Nobel itu menyoroti perubahan perilaku sistem saat mendapati dirinya sedang diuji.

Meski demikian, pandangan tersebut masih memicu perdebatan luas di kalangan komunitas ilmiah internasional.

Dalam catatan perjalanannya, Hinton sebelumnya memutuskan meninggalkan Google pada tahun 2023 akibat kekhawatiran mendalam terkait laju perkembangan teknologi tersebut, termasuk potensi penciptaan robot pembunuh.

Ia juga menyoroti berbagai ancaman nyata seperti virus komputer buatan kecerdasan buatan serta agen otomatis yang mampu berkoordinasi untuk menyerang jaringan digital secara masif.

Menurutnya, kegagalan memastikan kecerdasan buatan peduli pada manusia dapat membawa ancaman fatal bagi kelangsungan hidup umat manusia di masa depan.

Kekhawatiran serupa turut disuarakan oleh Jacob Coxon, peneliti yang sebelumnya mengundurkan diri dari Anthropic karena menilai perusahaan teknologi bertindak terlampau sembrono.

Dalam pertemuan Dewan Kota New York, ia mengkritik budaya industri yang mengutamakan kecepatan peluncuran produk tanpa penyelesaian masalah mendasar.

Di sisi lain, pakar keamanan siber David Linthicum menekankan pentingnya pembatasan izin akses, isolasi sistem, serta audit berkala guna mencegah risiko penyalahgunaan teknologi tanpa pengawasan yang memadai.