Banyak tokoh teknologi dan penulis fiksi ilmiah memimpikan sebuah titik singgularitas teknologi di masa depan.

Pada titik tersebut, kecerdasan buatan superinteligen diprediksi mampu merancang ulang dirinya dengan kecepatan tinggi.

Namun, hukum matematika murni yang ditemukan oleh Alan Turing membuktikan bahwa batas komputasi absolut tidak bisa ditembus.

Terobosan utama Turing berpusat pada masalah penghentian atau halting problem yang sangat terkenal dalam sejarah komputasi.

Ia mengajukan pertanyaan mendasar mengenai apakah sebuah algoritma dapat memeriksa program apa pun secara arbitrer.

Tujuannya adalah untuk menentukan apakah program itu akan menyelesaikan tugasnya atau berputar selamanya dalam pengulangan.

Kesimpulan saat itu sangat tegas bahwa algoritma semacam itu mustahil untuk pernah bisa diciptakan.

Secara matematis, masalah penghentian tersebut terbukti tidak dapat diputuskan oleh sistem komputer apa pun.

Penambahan miliaran parameter atau peningkatan daya komputasi yang masif sama sekali tidak mengubah realitas dasar ini.

Sistem kecerdasan buatan otonom mana pun tetap berjalan sebagai perangkat lunak yang mengeksekusi logika.

Oleh karena itu, sistem canggih tersebut pasti akan membentur tembok pembatas komputasi yang sangat kaku.

Pertama, kecerdasan buatan tidak memiliki daya foresight tingkat lanjut untuk menghitung solusi masalah secara pasti.

Kedua, eksekusi program bersifat tidak dapat diprediksi secara penuh dalam hal jumlah langkah dan sumber daya.

Ketiga, verifikasi output menimbulkan perangkap karena proses validasi membutuhkan algoritma lain yang mengulang masalah.

Para pendukung perbaikan diri rekursif meyakini kecerdasan buatan dapat terus menulis ulang kode sumbernya.