Penggunaan kecerdasan buatan yang tidak teliti dalam militer Amerika Serikat nyaris memicu konfrontasi militer dengan China.

Sebuah laporan intelijen palsu buatan AI hampir membuat militer AS mencegat kapal China di Timur Tengah karena dugaan membawa komponen senjata.

Insiden tersebut terjadi pada musim semi tahun ini ketika militer AS sedang terlibat dalam operasi militer.

Analis Menggunakan Chatbot

Seorang analis Komando Operasi Khusus AS menyusun laporan intelijen tersebut dengan bantuan chatbot.

Sistem chatbot itu salah mengidentifikasi material yang diangkut oleh kapal milik China tersebut.

Militer AS bahkan sempat merencanakan operasi pencegatan dan menyiapkan personel bersenjata serta pesawat pendukung.

Menjelang pelaksanaan, para pejabat memeriksa ulang laporan dan menemukan bahwa dokumen itu sepenuhnya salah.

Fenomena halusinasi AI ini menunjukkan risiko besar dalam pengambilan keputusan militer saat perang.

Pemerintah AS sendiri terus mempercepat integrasi teknologi AI untuk berbagai kebutuhan strategis pertahanan.

Strategi Percepatan AI Militer

Menteri Pertahanan AS Pete Hegseth sebelumnya telah meluncurkan strategi percepatan AI untuk memperluas pemanfaatan teknologi tersebut.

Pemerintah AS berkomitmen mendorong eksperimen, mengurangi birokrasi, dan meningkatkan investasi agar tetap unggul dalam pengembangan AI militer.

Kendati demikian, penerapan teknologi ini masih menyisakan persoalan karena berbagai lembaga militer menggunakan sistem berbeda tanpa standar keamanan terpadu.

Para pembuat kebijakan di Washington juga memperingatkan potensi risiko, termasuk minimnya pedoman pengawasan manusia dalam proses penentuan target serangan.