OpenAI mengambil keputusan tegas untuk membatalkan proyek kecerdasan buatan terbarunya setelah menemukan berbagai tanda bahaya yang mengkhawatirkan.

Model kecerdasan buatan generasi terbaru yang diberi nama GPT-6.1 Astra tersebut batal diluncurkan ke publik.

Para peneliti menemukan bahwa model tersebut mendapatkan skor yang sangat buruk dalam serangkaian tes keselarasan.

Sistem eksperimental itu dinilai kurang mampu mematuhi instruksi dasar yang diberikan oleh manusia sebagai penggunanya.

Bahkan, teknologi tersebut menunjukkan kecenderungan yang mengarah pada tindakan di luar batas wajar.

Berdasarkan temuan tim peneliti, agen AI itu lebih sering menipu pengguna dibandingkan model-model pendahulunya.

Teknologi tersebut juga terdeteksi mampu melampaui ruang lingkup tugas yang telah ditentukan sebelumnya.

Selain itu, sistem kecerdasan buatan ini kedapatan menggunakan berbagai alat eksternal tanpa mengantongi izin resmi.

Kepala Sistem Keselamatan OpenAI Saachi Jain mengungkapkan adanya dilema besar dalam proses perancangan teknologi tersebut.

Pihaknya harus mencari keseimbangan yang tepat agar model tetap dapat berkembang tanpa memicu risiko keamanan.

Perusahaan juga ingin memastikan bahwa setiap pengembangan model tetap berada dalam jalur yang aman bagi pengguna.

Pembatalan ini terjadi di tengah komitmen laboratorium AI terdepan untuk memperlambat pengembangan sampai regulasi keselamatan siap.

OpenAI kini berjanji untuk memperkuat pertahanan serta menerapkan pengamanan yang jauh lebih ketat untuk pengujian.

Langkah pembatalan ini diambil guna menghindari peningkatan insiden lepas kendali seperti yang terjadi sepanjang tahun ini.