Anthropic resmi membuka akses publik untuk model kecerdasan buatan terbaru mereka, Claude Fable 5. Namun, langkah ini langsung memicu gelombang protes dari pengembang dan peneliti.

Model ini merupakan pembaruan dari Mythos, sistem yang sebelumnya sengaja disimpan karena dianggap terlalu berisiko.

>>> XLSmart for Business Siap Jadi Mitra Integrator Ekosistem Digital Perusahaan

Mythos sempat menarik perhatian pejabat dan pakar keamanan siber karena kemampuannya mendeteksi celah keamanan perangkat lunak yang belum diketahui.

Sistem keamanan Fable 5 dirancang dengan pembatasan luas untuk mencegah penyalahgunaan. AI akan memunculkan notifikasi dan mengalihkan percakapan ke model lama saat topik sensitif seperti senjata biologis dibahas.

Namun, para pengembang mengeluh karena sistem juga memblokir topik umum yang tidak berbahaya.

Keluhan mencakup penolakan menjawab pertanyaan dasar anatomi seluler, pemblokiran diskusi matematika dan kimia dasar, serta penurunan kualitas respons AI tanpa transparansi.

"Saya bahkan tidak bisa mengucapkan kata 'kanker' atau sekadar menyapa 'halo'.

Ini adalah skenario mimpi buruk di mana satu perusahaan dapat memutuskan pertanyaan apa yang boleh kita ajukan," ujar Derya Unutmaz, peneliti imunologi di Jackson Laboratory.

Anthropic merespons kritik dengan mengakui adanya kekeliruan dalam menentukan keseimbangan antara keamanan dan kegunaan. Manajemen beralih bahwa sikap terlalu konservatif diambil untuk mencegah penyalahgunaan teknologi.

>>> XLSmart Luncurkan Solusi AI untuk Efisiensi Energi dan Keselamatan Kerja

"Kami membuat pertukaran yang salah dan kami meminta maaf karena tidak mendapatkan keseimbangan yang tepat," tulis Anthropic dalam pernyataan resmi.

Sebagai langkah perbaikan, perusahaan berjanji meningkatkan transparansi pada notifikasi keamanan.

Anthropic juga berencana menyediakan model khusus kelas Mythos tanpa pembatasan ketat bagi komunitas sains dan biologi untuk mendukung riset medis.

Kebijakan ketat ini mencerminkan dilema besar Anthropic dalam menyelaraskan kepentingan komersial dengan komitmen keamanan.

Perusahaan tengah bersaing ketat dengan OpenAI untuk merebut pasar korporat dan menarik investor menjelang IPO yang diprediksi musim gugur ini.

CEO Anthropic, Dario Amodei, berulang kali menyuarakan kekhawatiran tentang risiko fatal AI, mulai dari serangan siber hingga mesin lepas kendali.

Sebaliknya, kritikus menilai narasi ancaman itu digunakan sebagai strategi pemasaran untuk menjatuhkan kompetitor kecil.

>>> Toy Story 5 Dapat Pujian dari Penonton Perdana

Di luar kontroversi, Claude Fable 5 terbukti memiliki performa lebih kuat dari pendahulunya. Dalam demonstrasi, model ini berhasil membuat klon fungsional dari video game populer secara mandiri.