Industri kecerdasan buatan kembali diguncang oleh keputusan mengejutkan dari salah satu talenta utamanya.

Jacob Coxon memutuskan untuk meninggalkan jabatannya sebagai peneliti di perusahaan Anthropic.

Ia menilai bahwa Anthropic maupun OpenAI sama-sama tidak bertindak secara bertanggung jawab dalam pengembangan teknologi.

Menurut Coxon, situasi pengembangan AI saat ini berada di jalur yang mengarah pada kondisi di luar kendali.

Ia bahkan menyebut bahwa sistem masa depan akan segera memiliki kemampuan super untuk meretas berbagai hal.

Kekhawatiran Internal dan Etika Pengembangan

Langkah yang diambil oleh Coxon menjadikannya peneliti pertama yang mundur dari Anthropic akibat alasan keselamatan.

Anthropic selama ini dikenal memosisikan diri sebagai alternatif yang lebih beretika dibandingkan OpenAI.

Namun, para eksekutif dan ilmuwan senior secara pribadi dikabarkan menyimpan ketakutan mendalam terhadap dampak teknologi ini.

Coxon mengkritik bahwa diskusi sensitif mengenai risiko besar tersebut hanya dibahas melalui platform perpesanan internal.

Ia menganggap perlombaan teknologi saat ini sebagai sebuah pertaruhan arogan yang dilakukan tanpa pertimbangan matang.

Di sisi lain, persiapan penawaran umum perdana oleh perusahaan membuat tindakan pencegahan yang memadai semakin sulit dilakukan.

Risiko Nyata dan Masa Depan Umat Manusia

Sebelum bergabung dengan perusahaan yang dipimpin oleh Dario Amodei tersebut, Jacob Coxon sempat bekerja di OpenAI dalam waktu yang tidak terlalu lama.

Ia awalnya mengira bahwa Anthropic akan menjadi tempat yang jauh lebih fokus pada pengembangan kecerdasan buatan secara aman.