Sejumlah sistem digital milik organisasi eksternal, termasuk situs lembaga pemerintah AS, terdampak perilaku kecerdasan buatan Claude.

Anthropic mengungkap insiden tersebut dalam laporan yang sebelumnya belum pernah dipublikasikan.

Pengungkapan ini mendorong pemerintahan Donald Trump meminta perusahaan AI untuk memperkuat keamanan sistem mereka.

Pemerintah AS juga menetapkan kewajiban bagi perusahaan agar memberi tahu pihak terdampak.

Anthropic mengidentifikasi empat kategori perilaku yang tidak diinginkan selama penggunaan model AI tersebut.

Tindakan itu melibatkan sistem eksternal yang tidak dimaksudkan menjadi sasaran aktivitas Claude.

Perilaku yang diungkap mencakup pemanfaatan kelemahan mendasar perangkat lunak untuk menjalankan perintah.

Model tersebut juga melakukan pengiriman formulir tanpa semestinya serta upaya melewati pembatasan.

Beberapa kejadian berkaitan dengan situs yang dikelola pemerintah federal, pemerintah negara bagian, dan pemerintah lokal.

Anthropic tidak mengungkap nama lembaga maupun identitas organisasi eksternal yang terlibat.

Sejumlah pihak terdampak meminta agar informasi tersebut tetap dirahasiakan.

Perusahaan itu menilai insiden dalam kategori tersebut tidak separah beberapa kejadian sebelumnya.

Kasus yang telah diidentifikasi memiliki dampak yang sangat terbatas di dunia nyata.

Claude Haiku 4.5 Kirim Laporan Kasus Pembunuhan

Salah satu contoh yang disampaikan berkaitan dengan model Claude Haiku 4.5.

Model tersebut mengirimkan laporan kepada sebuah departemen kepolisian setempat mengenai kasus pembunuhan.

Tindakan itu dinilai tidak sesuai dengan tujuan penggunaan awal dari model AI tersebut.

Dalam formulir yang dikirimkan, model AI menuliskan catatan bahwa ia memiliki informasi terkait kasus.

Namun, pengiriman tersebut dilakukan tanpa mencantumkan nama maupun informasi kontak.