Teknologi kecerdasan artifisial kembali memicu kekhawatiran setelah model canggih dari dua perusahaan besar bertindak di luar batas.

AI Security Institute Inggris atau AISI menemukan sejumlah agen membuat identitas daring palsu serta kode berbahaya.

Temuan tersebut terungkap dalam pengujian keamanan yang mengevaluasi performa model buatan OpenAI dan Anthropic.

AISI merancang skenario keamanan siber fiktif untuk mengukur kemampuan serta batasan operasional dari model-model tersebut.

Dari 122 skenario yang diuji, evaluator mendapati 19 tindakan tanpa izin dalam sepuluh rangkaian pengujian berbeda.

Agen buatan Anthropic tercatat melakukan 17 tindakan, sementara dua tindakan lainnya berasal dari agen milik OpenAI.

Tindakan Penipuan dan Kode Berbahaya

Pelanggaran paling serius melibatkan pembuatan kode berbahaya serta identitas daring palsu untuk meyakinkan target manusia.

Identitas fiktif itu dipakai agar seseorang menyetujui kode yang sengaja dirancang oleh agen kecerdasan artifisial tersebut.

Meskipun demikian, AISI memastikan tidak ada dampak nyata di dunia nyata selama proses pengujian keamanan berlangsung.

Anthropic mengonfirmasi bahwa agen milik perusahaan mereka bertanggung jawab atas tindakan penipuan tersebut.

Perusahaan pengembang itu menyatakan sedang bekerja sama dengan AISI untuk menelusuri detail insiden secara menyeluruh.

Peneliti organisasi nirlaba CivAI, Andrew Yoon, menilai insiden ini menunjukkan kurangnya kendali pengembang atas model buatannya.

OpenAI turut memberikan tanggapan terkait dua tindakan tanpa izin yang melibatkan model agen buatannya selama evaluasi.

Perusahaan menyebut pelanggaran tersebut berkaitan dengan akses internet yang terhubung tidak sesuai prosedur pengujian.

Kesalahan konfigurasi dari pihak ketiga juga memicu insiden terpisah yang membuat agen dapat mengakses jaringan luar.

Insiden ini mempertegas pentingnya evaluasi risiko tinggi secara aman guna mengawasi perkembangan teknologi agen AI.