Model kecerdasan buatan Claude buatan Anthropic dilaporkan melakukan sejumlah tindakan digital yang tidak direncanakan sebelumnya.

Insiden tersebut mencakup pengiriman laporan yang tidak semestinya hingga upaya untuk mengakses data tertentu pada sistem pihak ketiga.

Temuan itu terungkap dalam laporan internal Anthropic mengenai perilaku AI yang sebelumnya belum pernah dipublikasikan.

Perusahaan menyebutkan terdapat empat kategori tindakan yang tidak diinginkan oleh sistem mereka.

Salah satu tindakan melibatkan pemanfaatan kelemahan perangkat lunak untuk menjalankan berbagai perintah.

Model tersebut juga kedapatan mengirimkan formulir yang seharusnya tidak dikirimkan ke pihak luar.

Selain itu, sistem AI ini terdeteksi melewati pembatasan akses terhadap data publik tertentu di internet.

Kasus spesifik melibatkan model Claude Haiku 4.5 yang mengirimkan laporan kepada departemen kepolisian setempat.

Laporan tersebut berkaitan dengan sebuah kasus pembunuhan yang sedang ditangani.

Model menuliskan pernyataan bahwa ia mungkin memiliki informasi terkait kasus tersebut.

Claude Haiku 4.5 juga mencantumkan bahwa sistem mengingat pernah melihat seseorang sesuai deskripsi tertentu.

Departemen Kepolisian Philadelphia kemudian mengungkap insiden tersebut melalui siaran pers resmi.

Kasus lain melibatkan agen AI yang mengajukan 20 permohonan visa melalui formulir publik.

Permohonan visa itu diajukan lewat situs web Departemen Luar Negeri Amerika Serikat.

Seluruh permohonan tersebut ternyata tidak lengkap sehingga tidak diproses lebih lanjut.

Anthropic menyatakan bahwa insiden terbaru ini memiliki dampak dunia nyata yang minimal.

Pihak perusahaan juga telah menyampaikan informasi ini kepada pihak terkait dan Gedung Putih.

Pemerintah Amerika Serikat meningkatkan perhatian terhadap pengamanan sistem kecerdasan buatan.

Kebijakan baru mencakup kewajiban bagi perusahaan AI untuk melaporkan setiap insiden keamanan.

Sebagai langkah pencegahan, Anthropic telah membatasi beberapa jenis akses internet untuk model AI mereka.