CEO Nvidia Jensen Huang menolak kekhawatiran bahwa kecerdasan buatan akan memusnahkan umat manusia dalam beberapa tahun mendatang.

Sikap itu berseberangan dengan pandangan pimpinan Anthropic dan OpenAI yang mendorong pengembangan AI tingkat lanjut secara lebih terukur.

Perdebatan menguat setelah peneliti senior Anthropic sekaligus mantan karyawan OpenAI, Jacob Coxon, mengumumkan pengunduran dirinya pada 9 September 2026.

Coxon menilai pengembangan AI menuju kecerdasan super yang mampu meningkatkan dirinya sendiri berlangsung terlalu cepat dan berisiko bagi manusia.

Dalam pernyataannya di X, Coxon menyebut Anthropic dan OpenAI tidak bertindak secara bertanggung jawab.

Ia menuding kedua perusahaan langsung menuju kecerdasan super yang mampu meningkatkan diri sendiri dan mempertaruhkan hidup manusia.

Kepala Grup Ilmu Penyesuaian Anthropic, Evan Hubinger, merespons dengan menyatakan risiko AI terhadap manusia adalah kekhawatiran nyata.

Hubinger mengaku secara pribadi memperkirakan probabilitasnya lebih dari 10% dalam dekade berikutnya.

CEO Anthropic Dario Amodei menyerukan perhatian lebih besar terhadap risiko seiring perkembangan AI yang semakin cepat.

Dalam esai yang dipublikasikan pada September, Amodei memperingatkan perkembangan tersebut dapat menghadirkan risiko baru dalam waktu dekat.

Ia khawatir dalam 6-12 bulan ke depan gerombolan AI semacam itu dapat mengambil alih seluruh internet.

Amodei mengusulkan sejumlah langkah untuk memperkuat keamanan AI tanpa mengurangi posisi Amerika Serikat dalam persaingan teknologi.

Salah satunya memberikan akses kepada pihak ketiga untuk memeriksa sistem keamanan perusahaan AI dan melaporkan insiden.

Ia juga mendorong perusahaan AI besar menyusun standar keamanan bersama serta pemerintah berbagai negara meningkatkan koordinasi.