Mereka menganggap arsitektur kognitif dapat dioptimalkan untuk memecahkan masalah yang dianggap mustahil oleh manusia.

Akan tetapi, logika dasar dari Turing tetap berlaku secara langsung pada kode yang memodifikasi dirinya sendiri.

Sebelum memperbarui versi yang lebih kuat, kecerdasan buatan tidak dapat membuktikan kodenya aman dari crash.

Simulasi dan pemeriksaan probabilitas memang dapat dijalankan, namun kepastian mutlak tetap di luar jangkauan.

Sistem superinteligen mungkin melampaui kecepatan manusia, tetapi ia tidak akan pernah bisa melompati hukum logika.

Matematikawan Henry Gordon Rice memperluas kerja Turing pada tahun 1951 untuk mencakup perilaku perangkat lunak.

Teorema Rice membuktikan bahwa hampir semua properti fungsional non-trivial dari suatu program mustahil diverifikasi.

Temuan ini menghadirkan tantangan inti bagi penyelarasan serta keamanan sistem kecerdasan buatan modern.

Sifat esensial seperti kejujuran, keadilan, dan nilai kemanusiaan dikategorikan sebagai properti non-trivial.

Teorema Rice menegaskan bahwa tidak ada algoritma audit tunggal yang mampu membuktikan keamanan sistem secara universal.

Kendati demikian, pemeriksaan bertarget dalam parameter sempit yang terbatas masih dapat dilakukan oleh para insinyur.

Analisis dari Turing dan Rice menetapkan bahwa kecerdasan buatan tidak akan pernah memiliki kemahatahuan.

Meski demikian, bukti dari abad ke-20 ini menyisakan pertanyaan tentang seberapa besar batasan tersebut memengaruhi praktik.

Pengembangan teknologi modern sangat bergantung pada pengujian heuristik dan probabilistik alih-alih kepastian matematis.

Pertanyaan apakah pendekatan empiris ini cukup untuk mengatur sistem yang cerdas masih belum terjawab hingga kini.