Perusahaan rintisan AI terkemuka, Anthropic, mengeluarkan peringatan serius mengenai risiko hilangnya kendali manusia atas sistem kecerdasan buatan (AI).

Peringatan ini muncul seiring temuan bahwa model AI mereka, Claude, kini mengambil alih sebagian besar proses pengembangannya sendiri.

>>> Kronologi Drama Ruben Onsu vs Sarwendah hingga Viral Video Hinaan

Fenomena ini menandakan bahwa AI tidak lagi sekadar alat bantu, melainkan kontributor utama dalam evolusi teknisnya sendiri.

Lonjakan Otonomi AI

Berdasarkan laporan terbaru Anthropic, terjadi lonjakan drastis dalam otonomi pengembangan perangkat lunak oleh AI.

Pada Februari tahun lalu, Claude hanya menulis kurang dari 10 persen kodenya sendiri. Kini angka tersebut meroket hingga lebih dari 80 persen.

Marina Favaro dan Jack Clark dari Anthropic menyatakan dalam unggahan blog resmi bahwa tren ini mengarah pada sistem AI yang mampu merancang dan mengembangkan penerusnya secara mandiri.

Kondisi ini dikenal dalam istilah teknis sebagai peningkatan diri secara rekursif atau recursive self-improvement.

Kualitas kode yang dihasilkan AI saat ini dinilai setara dengan buatan manusia. Bahkan, kemampuan tersebut diprediksi bakal melampaui kemampuan manusia dalam satu tahun ke depan.

Peluang Besar vs Risiko Eksistensial

Anthropic mengakui bahwa AI yang mampu membangun dirinya sendiri adalah pencapaian besar dalam sejarah teknologi.

Hal ini berpotensi membawa manfaat luar biasa bagi sains, layanan kesehatan, dan berbagai sektor lain.

Namun, di sisi lain, kemampuan ini membawa risiko yang belum pernah dihadapi sebelumnya.

Potensi manfaat meliputi akselerasi penemuan obat dan solusi iklim, efisiensi pengembangan tanpa henti, serta kemampuan AI menambal celah keamanan secara instan.

>>> PT Dan Liris Gandeng Telkom Solution Perkuat Infrastruktur Digital