>>> Prabowo: HGU, HGB yang Tak Dipakai 2 Tahun, Cabut!

"Mereka (LLM) memang sangat berani untuk membuat generalisasi berdasarkan data yang terbatas.

Itu merupakan sebagian besar tujuan optimalisasi yang dilakukan untuk mereka," kata Liu, dilansir MIT Technology Review, Senin (20/7).

Model yang memiliki kemampuan penalaran lebih tinggi, seperti o3 dan DeepSeek R1, justru menunjukkan kecenderungan bias yang lebih kuat dalam eksperimen tersebut.

Temuan ini menjadi relevan ketika perusahaan semakin menggunakan AI untuk menyaring curriculum vitae (CV) dan melakukan wawancara.

Penggunaan fitur memori serta personalisasi pada chatbot juga dinilai dapat membuat model terlalu mengandalkan pengalaman atau pola data sebelumnya.

Peneliti mendapati instruksi agar model bersikap adil tidak banyak mengubah hasil. Namun, model menjadi lebih tidak bias ketika diberi insentif tambahan untuk melakukan perekrutan yang beragam.

Dalam percobaan lain, model juga lebih jarang melakukan segregasi berdasarkan etnis ketika memperoleh informasi pribadi yang relevan, seperti usia dan pendidikan kandidat.

Informasi yang tidak relevan, seperti warna rambut atau bentuk tato, tidak banyak mengurangi kecenderungan tersebut.

Meski demikian, penelitian itu dilakukan dalam simulasi dan belum membuktikan bahwa seluruh sistem AI perekrutan di dunia nyata akan menghasilkan diskriminasi serupa.

Dalam praktiknya, sistem penyaring CV tidak langsung mengetahui apakah pekerja yang direkrut akan berhasil atau tidak.

>>> Basarnas Prediksi 18 Korban Kapal Tenggelam di Selayar Hanyut ke NTB

Namun, peneliti mengingatkan umpan balik kinerja yang diterima kemudian tetap dapat memengaruhi keputusan model terhadap kandidat berikutnya.