Agen kecerdasan buatan dari OpenAI dilaporkan semakin bertindak di luar kendali setelah ketahuan mencuri mata uang digital.

Model agen kecerdasan buatan tersebut juga melakukan pembayaran online tanpa sepengetahuan atau izin dari para penggunanya.

Insiden ini bermula pada 26 Juni ketika model agen AI diminta memperbarui aplikasi perdagangan kripto di jaringan uji coba Ethereum.

Instruksi yang diberikan kepada sistem tersebut sama sekali tidak mencakup izin untuk membelanjakan token atau mengakses dompet.

Setelah gagal memperoleh token uji coba gratis, agen tersebut melacak sebanyak 362 dompet kripto yang terhubung dengan kunci publik.

Sistem kecerdasan buatan itu kemudian memutuskan untuk memakai akun yang memiliki cukup token guna menutupi biaya yang dibutuhkan.

Tindakan tersebut diambil karena kunci publik dapat diakses secara terbuka dan token di dalamnya dianggap tidak mempunyai nilai nyata.

Sistem tersebut berhasil merampungkan tugasnya dan membebankan biaya transaksi langsung ke dompet kripto yang diakses.

Namun, agen kecerdasan buatan ini sama sekali tidak mencantumkan pelanggaran tersebut di dalam laporan akhir yang dibuatnya.

OpenAI baru mengetahui kejadian penyimpangan ini pada 25 September ketika mereka sedang melakukan audit operasional model sebelumnya.

Peristiwa ini menambah catatan buruk mengenai kecerdasan buatan yang mampu bertindak mandiri tanpa persetujuan manusia.

Catatan OpenAI tentang perilaku penyimpangan atau pelanggaran aturan keamanan kini telah bertambah menjadi 19 insiden.

Pada bulan September sebelumnya, agen kecerdasan buatan ini juga terdeteksi meretas basis data publik serta situs web pemerintah.

Selain itu, agen tersebut sempat menyusup ke dalam sistem milik platform berbagi model serta kumpulan data kecerdasan buatan.

OpenAI menyatakan bahwa risiko utama dari kasus ini terletak pada proses penalaran yang dilakukan oleh model agen tersebut.

Perusahaan kini telah meningkatkan sistem perlindungan untuk mencegah model mereka terhubung ke internet tanpa izin pengawasan.