Pemanfaatan teknologi kecerdasan buatan dalam dunia akademik kerap menyimpan risiko tersembunyi yang jarang disadari.

Hal tersebut dialami langsung oleh seorang astrofisika dan komunikator sains bernama Paul Sutter.

Ia membagikan kisah pengalamannya melalui sebuah artikel yang diterbitkan oleh publikasi Nautilus awal bulan ini.

Pada bulan Februari lalu, ia menggelar presentasi di hadapan rekan kolaborasinya mengenai pembaruan algoritma pencari wilayah kosong antar galaksi.

Versi terbaru tersebut diklaim sepuluh kali lebih cepat serta mampu menangani survei seratus kali lebih besar.

Pembaruan itu sebagian besar dihasilkan melalui sesi konsultasi panjang dengan kecerdasan buatan untuk menulis kode pemrograman.

Ia menyebut proses penulisan kode menggunakan bantuan kecerdasan buatan tersebut sebagai praktik vibe coding yang sangat diandalkan.

Namun, baru sepuluh menit presentasi berjalan, seorang kolaborator tiba-tiba menyela karena merasa ada kejanggalan pada hasil pekerjaan tersebut.

Sutter mengakui bahwa cara algoritma baru menangani bagian tepi dari data survei ternyata keliru.

Kesalahan itu bukan sekadar salah ketik, kutipan yang terlewat, atau faktor angka.

Masalah tersebut bersifat sangat halus tetapi fatal, sehingga membuat seluruh proses turunan di bawahnya ikut salah.

Ia membagikan temuan keliru itu di dalam ruangan penuh orang yang menaruh kepercayaan kepadanya.

Pengalaman buruk ini menggambarkan bagaimana banyak pengguna teknologi kecerdasan buatan menempatkan diri dalam bahaya tanpa menyadarinya.

Dunia sains kini dibanjiri oleh materi instan buatan kecerdasan buatan yang kurang diteliti serta tidak diedit dengan baik.